Baichuan-13B icon indicating copy to clipboard operation
Baichuan-13B copied to clipboard

Published 20 hours ago • verified publisher icon baichuan-inc

有时候卡住一直在输出，model.chat一直在等待响应很久，有没有办法快速结束这种超长响应的办法

Open janglichao opened this issue 1 year ago • 1 comments

有时候卡住一直在输出，model.chat一直在等待响应很久，有没有办法快速结束这种超长响应的办法

janglichao avatar Sep 08 '23 15:09 janglichao

用量化模型或提高硬件规格吧

myccc456 avatar Oct 08 '23 02:10 myccc456