Llama-Chinese llama-chinese-13b-chat 的输出非常奇怪

llama-chinese-13b-chat 的输出非常奇怪

Open 652994331 opened this issue 1 year ago • 1 comments

我下了13b-chat ，直接用 accelerate_client, accelerate_server 代码去用， fastapi能跑通，但是结果很奇怪 Screen Shot 2023-09-19 at 19 55 48

Screen Shot 2023-09-19 at 19 56 06 我觉得不应该效果这么差，想问下哪里有问题吗我用的启动server的脚本方式是：

或者说这个项目是为了atom 这个模型定制的 LLAma效果不好，谢谢

Sep 19 '23 11:09 652994331

同

Nov 14 '23 07:11 ifkid