sherpa-onnx icon indicating copy to clipboard operation
sherpa-onnx copied to clipboard

请教RK3588使用paraformer模型如何运行

Open tank1530532 opened this issue 1 month ago • 3 comments

下载了sherpa-onnx-rk3588-20-seconds-paraformer-zh-2025-10-07.tar.bz2模型,但没有相关使用文档,不知道如何使用命令运行。请教如何在linux环境运行该模型。

tank1530532 avatar Oct 22 '25 01:10 tank1530532

Hi @tank1530532! I'm Dosu and I’m helping the sherpa-onnx team.

在 RK3588 的 Linux 环境下运行你下载的 paraformer 模型(sherpa-onnx-rk3588-20-seconds-paraformer-zh-2025-10-07.tar.bz2),可以参考以下步骤:

  1. 安装 sherpa-onnx(需支持 RKNN)
    推荐直接使用官方提供的 aarch64 wheel 包或源码编译,具体可参考 官方安装文档

  2. 解压模型文件
    解压后会得到 encoder.rknn、decoder.rknn、joiner.rknn、tokens.txt 和 test_wavs 目录。

  3. 命令行识别音频文件
    进入模型目录,执行如下命令(假设你已安装好 sherpa-onnx 并在 PATH 中):

    sherpa-onnx \
      --provider=rknn \
      --encoder=./encoder.rknn \
      --decoder=./decoder.rknn \
      --joiner=./joiner.rknn \
      --tokens=./tokens.txt \
      ./test_wavs/4.wav
    

    其中 ./test_wavs/4.wav 可以替换为你自己的音频文件路径。音频需为单通道 16 位 wav 文件,采样率不限。

  4. 实时麦克风识别
    先用 arecord -l 查看麦克风设备号,比如 plughw:3,0,然后运行:

    sherpa-onnx-alsa \
      --provider=rknn \
      --encoder=./encoder.rknn \
      --decoder=./decoder.rknn \
      --joiner=./joiner.rknn \
      --tokens=./tokens.txt \
      plughw:3,0
    

    设备名根据实际情况调整。

  5. 常见问题

    • 如果遇到 Invalid RKNN model version 错误,请更新 /lib/librknnrt.so/usr/lib/librknnrt.so,可从 Rockchip RKNN toolkit 获取最新版。
    • 可用 --num-threads 参数选择 NPU 核心,例如 --num-threads=1(自动)、--num-threads=0(核心0)、--num-threads=-1(核心1)等。

详细用法和更多说明可参考 官方 RKNN 模型文档

To reply, just mention @dosu.


How did I do? Good | Irrelevant | Incorrect | Verbose | Hallucination | Report 🐛 | Other  Join Discord Share on X

dosubot[bot] avatar Oct 22 '25 01:10 dosubot[bot]

这个模型,还没有加 c++ 的实现。

https://github.com/k2-fsa/sherpa-onnx/pull/2692 这里面有使用方法。

csukuangfj avatar Oct 22 '25 01:10 csukuangfj

好的 谢谢

tank1530532 avatar Oct 22 '25 02:10 tank1530532