dearwind153

FOR NDK 20, complie method NDK 20 (official) change build-android.sh BOOST_VER1=1 _**BOOST_VER2=68

mnn 模型，Android 平台 benchmark 测试，推理使用 openCL, vulkan 都比 CPU 慢，可能是什么原因？

3

MNN 版本：MNN-2.9.0 平台：Android 小米9 硬件 NDK: NDK-r20b 编译时，同时编译 Android 平台 CPU， openCL, vulkan 后端 **mnn 模型，Android 平台 benchmark 测试，推理使用 openCL, vulkan 都比 CPU 慢，可能是什么原因？** CPU backend 测试： _**max = 297.433...

linux x86_64 平台， 多线程情况下， mnn 和推理速度不如 onnx，有可能是什么原因？

4

- MNN 版本：MNN-2.9.0 - 平台：linux x86_64， **Intel(R) Xeon(R) Platinum 8255C CPU @ 2.50GHz** - 使用 工程中 release.sh 编译 pymnn - 开启的编译选项 CMAKE_ARGS="-DMNN_BUILD_CONVERTER=on -DMNN_BUILD_TRAIN=ON -DCMAKE_BUILD_TYPE=Release -DMNN_BUILD_SHARED_LIBS=OFF -DMNN_SEP_BUILD=OFF -DMNN_USE_THREAD_POOL=OFF -DMNN_OPENMP=ON -DMNN_BUILD_OPENCV=ON -DMNN_IMGCODECS=ON...

cosyvoice2 cosyvoice.llm.llm 导出 onnx 后，再转换为 tensorRT 时出问题

2

### ** 1. onnx 模型导出正常** ``` The model is well-formed and valid! =======================Model1 inputs: x_s [1, 'seq_len', 1024] attn_mask [1, 'seq_len', 'seq_len'] key_cache.1 [7, 8, 'seq_len', 128] value_cache.1 [7, 8,...

cannot import name 'cached_download' from 'huggingface_hub'

1

error info: ``` File "/data/workspace/FireRedTTS/FireRedTTS/test.py", line 3, in from fireredtts.fireredtts import FireRedTTS File "/data/workspace/FireRedTTS/FireRedTTS/fireredtts/fireredtts.py", line 4, in from fireredtts.modules.gpt.gpt import GPT File "/data/workspace/FireRedTTS/FireRedTTS/fireredtts/modules/__init__.py", line 5, in from fireredtts.modules.flow import get_flow_frontend,...