Huatuo-Llama-Med-Chinese icon indicating copy to clipboard operation
Huatuo-Llama-Med-Chinese copied to clipboard

有没有先进行预训练让llama拥有中文能力

Open yuanzhiyong1999 opened this issue 1 year ago • 4 comments

整个模型是直接在llama上面指令微调得来的吗?是不是先用中文语料让llama学习中文之后再指令微调会更好呢?

yuanzhiyong1999 avatar May 07 '23 07:05 yuanzhiyong1999

您好,我们有更新基于中文Alpaca进行我们的指令微调,可参照我们的readme的更新日志

s65b40 avatar May 07 '23 13:05 s65b40

我看了readme,但是代码里面都是基于llama或者alpaca的,请问发布的基于中文alpaca微调的是哪个版本的模型呢?7b 13b 还是plus版本?因为有很多细节问题,我想进一步了解一下,谢谢。

yuanzhiyong1999 avatar May 07 '23 13:05 yuanzhiyong1999

是崔一鸣的alpaca-7B,readme上面有可以直接跳转的链接

s65b40 avatar May 08 '23 11:05 s65b40

谢谢!

yuanzhiyong1999 avatar May 08 '23 11:05 yuanzhiyong1999