penalty>1时，Android设备上无法正常推理

Open finneyyan opened this issue 7 months ago • 2 comments

设置采样方式为penalty(或mixed中包含penalty) 且penalty值大于1时，编译Linux版本并运行没有问题，但Android版本运行llm_demo会回答乱码或报Segmentation fault,试了两个Android设备都是这样（荣耀magic6/荣耀v7）. 以上均为纯CPU

May 28 '25 04:05 finneyyan

@wangzhaode

May 28 '25 05:05 Juude

这个是已知问题，代码已经修复了近期会合并同步

May 28 '25 05:05 wangzhaode

Marking as stale. No activity in 60 days.

Jul 27 '25 09:07 github-actions[bot]