tszslovewanpu
tszslovewanpu
@maoxiantuanzi 没必要全量吧,有多少数据需要增量预训练?
> 我在webdemo后面加了 --prompt_template alpaca就正常了,是prompt_template的问题 请问这个参数是训练好模型,做推理的时候加的吗。如果是做inference时需要加这个参数,是不是这个模板要和训练时的一致才不会出现human?
more GPUs is ok
感谢!
感谢!
@Peter-of-Astora 您好,请教您一下 i、请问你的解决办法是sft中只用20k条样例来训练吗? ii、您的增量预训练用的样例数可以问一下吗? 我也出现了模型自问自答,甚至胡言乱语的情况,很头疼。。。