小米14使用Qwen2.5-Omni-3B无限回复感叹号

Open changeAtLater opened this issue 6 months ago • 5 comments

前几个问题正常，后面就全是感叹号，试了两次想再试一下的时候把我手机整卡住了。。。

小米14 系统版本2.0.112.0

软件版本 0.5.1.1

Jun 13 '25 05:06 changeAtLater

模型中的 config.json 内容是什么?

Jun 13 '25 06:06 jxt1234

模型中的 config.json 内容是什么?

Jun 13 '25 07:06 changeAtLater

尝试改了一下sampler Type, penalty错误一样, mixed从!变成了0, 参数都是默认的

Jun 13 '25 07:06 changeAtLater

backend 设置为 cpu 呢

Jun 13 '25 08:06 Juude

backend 设置为 cpu 呢

设置成cpu就正常了，另外我发现opencl不仅出感叹号并且输出好慢啊

Jun 13 '25 12:06 changeAtLater

类似的情况，无线循环回复

#3632

Jun 17 '25 01:06 nmww

我是让qianwen-vl读图片的时候疯狂输出感叹号，纯文字对话顶多有点蠢，但是还有逻辑，

Jun 24 '25 13:06 Youxiu-Han

aeac75acbf7b3f6be8272dde61f21eee1c9928f7 已经修正，目前需要更新后重编 MNN

Jul 08 '25 09:07 jxt1234