AceCHQ
Results
2
comments of
AceCHQ
请问在13b的训练第一阶段的训练脚本可以分享吗?
> model.resize_token_embeddings(len(tokenizer)) 加上这句,我直接微调,在单机多卡跑不起来 感谢,这样的话,config文件里就不应该修改为最新的词表size是吧,不然模型都无法顺利加载。
AceCHQ
请问在13b的训练第一阶段的训练脚本可以分享吗?
> model.resize_token_embeddings(len(tokenizer)) 加上这句,我直接微调,在单机多卡跑不起来 感谢,这样的话,config文件里就不应该修改为最新的词表size是吧,不然模型都无法顺利加载。