FunASR
FunASR copied to clipboard
libtorch推理rtf比官方结果慢
trafficstars
https://alibaba-damo-academy.github.io/FunASR/en/runtime/docs/benchmark_libtorch.html 官方的libtorch cpu benchmark在concurrent-tasks为32的情形下,fp32模型rtf可以达到0.0066。我在libtorch 1.7 1.10 1.12上测下来,rtf最多也只有0.03,比官方数据效果差。同时libtorch与onnx相比,在相同的concurrent-tasks下,rtf也高很多,请问是哪里的问题呢?