MNN icon indicating copy to clipboard operation
MNN copied to clipboard

天玑8100使用Gpu跑8b和4b时出现乱码

Open xiyue9637 opened this issue 7 months ago • 6 comments

手机型号oppo reno9运行内存16GScreenshot_2025-05-23-19-44-19-89_3b5e1a6b5f5bfd395bd36f2cf39e76d0.jpg

xiyue9637 avatar May 23 '25 11:05 xiyue9637

cpu 跑的时候没问题么,什么版本的

Juude avatar May 24 '25 04:05 Juude

cpu 跑的时候没问题么,什么版本的

安卓15,MNN版本0.4.4.1

xiyue9637 avatar May 25 '25 05:05 xiyue9637

cpu 跑的时候没问题么,什么版本的

CPU跑没问题,OpenCL高精度跑也没问题,这个问题只出现在OpenCL跑低精度(qwen3:4b)时

urain39 avatar May 31 '25 03:05 urain39

高通机型暂时没有这个问题,只在天玑8100上复现,其它天玑机型可能也受影响

urain39 avatar May 31 '25 03:05 urain39

@wangzhaode

Juude avatar May 31 '25 06:05 Juude

 llm_demo ~/mnt/3090x4/llm/Qwen3-30B-A3B-MNN/config.json
CPU Group: [ 0  1  2  3 ], 408000 - 1800000
CPU Group: [ 6  7 ], 408000 - 2400000
CPU Group: [ 4  5 ], 408000 - 2400000
The device supports: i8sdot:1, fp16:1, i8mm: 0, sve2: 0, sme2: 0
config path is /home/firefly/mnt/3090x4/llm/Qwen3-30B-A3B-MNN/config.json
arm_release_ver: g13p0-01eac0, rk_so_ver: 6
Can't open file:tmp/mnn_cachefile.bin
Load Cache file error.
main, 252, cost time: 92228.328125 ms
Prepare for tuning opt Begin
Prepare for tuning opt End
main, 256, cost time: 0.010000 ms

User: 使用c++ sdl2实现一个打砖块小游戏。

A:  用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量用量^C⏎                   

RK3588 相同问题,OpenCL低精度输出无限重复。版本为最新的3.2.0,模型为 https://www.modelscope.cn/models/MNN/Qwen3-30B-A3B-MNN

happyme531 avatar Jun 06 '25 21:06 happyme531

Marking as stale. No activity in 60 days.

github-actions[bot] avatar Aug 06 '25 09:08 github-actions[bot]