CogVLM2 icon indicating copy to clipboard operation
CogVLM2 copied to clipboard

Published 20 hours ago • verified publisher icon THUDM

微调的模型不支持中文的模型吗？

Open Guodashen222 opened this issue 1 year ago • 2 comments

792d52f13d651c5c8ce761f78fedccf 使用八个a800无法完成对中文模型微调的任务

Guodashen222 avatar May 25 '24 02:05 Guodashen222

直接用中文模型微调，支持中文的

zRzRzRzRzRzRzR avatar May 25 '24 06:05 zRzRzRzRzRzRzR

直接用中文模型微调，支持中文的

但是为什么会出现这个显存不足的问题呢

Guodashen222 avatar May 25 '24 06:05 Guodashen222

我也遇到了同样的问题，中文模型会出现OOM

tiandazhao avatar May 28 '24 08:05 tiandazhao

更新了最新的hf 代码和微调代码了吗，发个配置？我这边微调是正常的

zRzRzRzRzRzRzR avatar May 28 '24 10:05 zRzRzRzRzRzRzR

更新了最新的hf 代码和微调代码了吗，发个配置？我这边微调是正常的

同遇到A800 80G 8卡oom，你们cuda是什么版本

whbzju avatar Jun 07 '24 10:06 whbzju

cuda12.3 记得拉最新的hf中的modeling_cogvlm

zRzRzRzRzRzRzR avatar Jun 07 '24 14:06 zRzRzRzRzRzRzR

cuda12.3 记得拉最新的hf中的modeling_cogvlm

非常感谢回复，马上去试下，现在用的是modelscope的版本

whbzju avatar Jun 09 '24 03:06 whbzju

麻烦也更新下modelscope的modeling_cogvlm吧，确实是这个问题

whbzju avatar Jun 09 '24 03:06 whbzju