Baichuan-13B icon indicating copy to clipboard operation
Baichuan-13B copied to clipboard

Published 20 hours ago • verified publisher icon baichuan-inc

输入长度超过最大长度

Open Mrkkew opened this issue 1 year ago • 1 comments

我在做模型推理的时候，如果输入的长度大于模型所支持的最大长度会报错，请问这种问题怎么解决？

Mrkkew avatar Jul 12 '23 14:07 Mrkkew

模型好像只支持4096个token，等官方更新吧

fenglinbei avatar Jul 13 '23 03:07 fenglinbei