wei.cai

7b的话一张A800 40G就可以启动训练

#17 请参考这里哈

你好，我们命令里面目前还没有兼容cpu的推理，如果想放在cpu上推理，可以在tiger_infer.py代码里将DEV变量改为 DEV = torch.device('cpu') 来试试

好滴

你微调的时候prompt的组合是？可以在prompt中加些比较细的指令说明。比如 “请纠正一下文本中的错别字： {文本} ”

是指开源项目中可启动的webui么？

后面会加上的

可以，但是目前页面上的这个功能还在内测中，测试完了就发出来试用。

可以的。但鉴于模型目前的生成效果的有限性，请谨慎使用。