lightllm icon indicating copy to clipboard operation
lightllm copied to clipboard

输出结果问题

Open listenyb opened this issue 1 year ago • 2 comments

1.怎么将输出结果中的多余\n去掉? 2.怎么多个问题进行推理? 2.怎么更改batch大小

listenyb avatar Aug 24 '23 08:08 listenyb

import re
text = re.sub(r'\n+', '\n', text)

2.推完一个问题,然后推下一个问题 2.趁router没反应过来,把多个问题提上去

llehtahw avatar Aug 24 '23 08:08 llehtahw

能具体描述下你的第二三个问题的诉求吗?

hiworldwzj avatar Aug 24 '23 08:08 hiworldwzj