FireRedTeam
是否会考虑加入ONNX导出？
sherpa-onnx 下周会支持。已经能导出 .int8.onnx 模型
(py38) kuangfangjun:FireRedASR$ ls -lh onnx/*.int8.onnx
-rw-r--r-- 1 kuangfangjun root 425M Feb 16 xx:xx onnx/decoder.int8.onnx
-rw-r--r-- 1 kuangfangjun root 1.3G Feb 12 xx:xx onnx/encoder.int8.onnx
模型文件有点大。希望能开源 xs 配置的模型。
is this model supported finetune in k2-fsa?
no, not yet.
https://k2-fsa.github.io/sherpa/onnx/FireRedAsr/index.html
这是在 sherpa-onnx 中使用 FireRedAsr ONNX 模型的 文档
如果xs 配置的模型也开源出来了，我们还会加 android 的 pre-built APK.
目前 large 配置的模型，模型文件太大了，超过 1GB 了。
哈啰~
欢迎使用这个链接自行导出简化的ONNX版本，模型图网络已包含了STFT声音特征处理，仅需简单地传入PCM-int16数据即可获得文字输出。此外，这份导出代码是基于LLM的导出经验进行了深度优化，在Intel CPU i3-12300上可以达到大约0.17的实时因子（RTF）。
sherpa-onnx 下周会支持。已经能导出 .int8.onnx 模型
(py38) kuangfangjun:FireRedASR$ ls -lh onnx/*.int8.onnx -rw-r--r-- 1 kuangfangjun root 425M Feb 16 xx:xx onnx/decoder.int8.onnx -rw-r--r-- 1 kuangfangjun root 1.3G Feb 12 xx:xx onnx/encoder.int8.onnx模型文件有点大。希望能开源 xs 配置的模型。
能导出 fp16 的模型吗？ int8 感觉精度不如 原始的工程。
你是要用gpu跑么？
是的，想试一下 sherpa-onnx 在 nvidia 以及 昇腾 使用 onnxruntime-gpu 以及 onnxruntime-cann 的效果， 军哥能辛苦导出一个版本吗？
请看 https://modelscope.cn/models/csukuangfj/sherpa-onnx-fire-red-asr-large-zh_en-fp16-2025-02-16/files
请看 https://modelscope.cn/models/csukuangfj/sherpa-onnx-fire-red-asr-large-zh_en-fp16-2025-02-16/files
非常感谢 军哥！！！
能导出 fp16 的模型吗？ int8 感觉精度不如 原始的工程。
更建议请他们尽快开源小模型，这样，用 fp32 跑， 速度也会很快的。
军哥能帮忙导出 fp32 的模型吗？
能导出 fp16 的模型吗？ int8 感觉精度不如 原始的工程。
更建议请他们尽快开源小模型，这样，用 fp32 跑， 速度也会很快的。
军哥能帮忙导出 fp32 的模型吗？
不能了。超过2GB了，不好传，文件太多
