CPM-Bee icon indicating copy to clipboard operation
CPM-Bee copied to clipboard

Published 20 hours ago • verified publisher icon OpenBMB

.pt 格式的模型需要基于CPM-Bee在自己的数据集训练得到是吗，单张4090显卡是否能运行呢？

Open Lufffya opened this issue 1 year ago • 2 comments

Lufffya avatar Jun 06 '23 09:06 Lufffya

同问，finetune的时候如果加载 预训练模型pytorch_model.bin文件，损失就为nan；如果不加载预训练模型pytorch_model.bin文件那就是从头开始训了？

pythonla avatar Jun 07 '23 01:06 pythonla

直接加载 cpm-bee-10b下的pytorch_model.bin 就可以

pythonla avatar Jun 08 '23 01:06 pythonla

@Lufffya 可以直接加载模型在单张4090显卡上推理

zh-zheng avatar Jun 19 '23 03:06 zh-zheng

这是来自QQ邮箱的假期自动回复邮件。你发给我的信件已经收到。谢谢!

pythonla avatar Jun 19 '23 03:06 pythonla