MNN
MNN copied to clipboard
天玑8100使用Gpu跑8b和4b时出现乱码
手机型号oppo reno9运行内存16G
cpu 跑的时候没问题么,什么版本的
cpu 跑的时候没问题么,什么版本的
安卓15,MNN版本0.4.4.1
cpu 跑的时候没问题么,什么版本的
CPU跑没问题,OpenCL高精度跑也没问题,这个问题只出现在OpenCL跑低精度(qwen3:4b)时
高通机型暂时没有这个问题,只在天玑8100上复现,其它天玑机型可能也受影响
@wangzhaode
llm_demo ~/mnt/3090x4/llm/Qwen3-30B-A3B-MNN/config.json
CPU Group: [ 0 1 2 3 ], 408000 - 1800000
CPU Group: [ 6 7 ], 408000 - 2400000
CPU Group: [ 4 5 ], 408000 - 2400000
The device supports: i8sdot:1, fp16:1, i8mm: 0, sve2: 0, sme2: 0
config path is /home/firefly/mnt/3090x4/llm/Qwen3-30B-A3B-MNN/config.json
arm_release_ver: g13p0-01eac0, rk_so_ver: 6
Can't open file:tmp/mnn_cachefile.bin
Load Cache file error.
main, 252, cost time: 92228.328125 ms
Prepare for tuning opt Begin
Prepare for tuning opt End
main, 256, cost time: 0.010000 ms
User: 使用c++ sdl2实现一个打砖块小游戏。
A: 用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量^C⏎
RK3588 相同问题,OpenCL低精度输出无限重复。版本为最新的3.2.0,模型为 https://www.modelscope.cn/models/MNN/Qwen3-30B-A3B-MNN
Marking as stale. No activity in 60 days.