jxt1234

icon indicating an email [email protected]

Results 338 comments of jxt1234

YOLO-10，CPU opencl精度没问题，cuda精度不达预期

测试的数据是怎么生成的，执行参数是什么？

Use n_gen from context, fix tps mismatch in gemma3

Please resolve conficts and we can merge it.

libllm.so 依赖 libMNNAudio.so，但官方 SDK 未提供该文件

了解了，我们后续修正

VLM推理本地图片应该怎么写prompt.txt啊？这样写对吗？描述的不准让我怀疑我是不是写错了

把 hw 放后面试下 /home/work/image/mao.jpg280, 420 描述画面

麒麟芯片问题

跟设置的forwardtype 相关。

麒麟芯片问题

跟设置的forwardtype 相关。

麒麟芯片问题

结果问题先用测试工具测试一下： https://mnn-docs.readthedocs.io/en/latest/tools/test.html#modulebasic-out

使用CPU推理时正常，但是在使用麒麟NPU推理崩溃

目前使用 Module API 推理 NPU 需要把 shapeMutable 设成 false