fastllm icon indicating copy to clipboard operation
fastllm copied to clipboard

pyfastllm多线程

Open sym19991125 opened this issue 1 year ago • 2 comments

使用cli_thread.py代码,输入问题后会报错:Segmentation fault (core dumped)

将response中的prompt_input经过makeInput处理后仍然不行。

已经尝试使用ChatGLM2-6b, 百川以及Alpaca13B

sym19991125 avatar Sep 26 '23 09:09 sym19991125

应该是后端API变更导致的,我稍后看一下。

wildkid1024 avatar Sep 29 '23 02:09 wildkid1024

cli_thread.py 你好,请问这个文件还有吗?我这边没有看到demo文件夹。

yehx1 avatar Nov 02 '23 01:11 yehx1