chatglm_finetuning icon indicating copy to clipboard operation
chatglm_finetuning copied to clipboard

Published 20 hours ago • verified publisher icon ssbuild

chatglm-6b 最小训练显存多少？ 如果显存不够如何部分加载 chatglm-6b 的权重

Open leoluopy opened this issue 1 year ago • 2 comments

chatglm-6b 最小训练显存多少？ 如果显存不够如何部分加载 chatglm-6b 的权重

leoluopy avatar Mar 27 '23 14:03 leoluopy

@ssbuild 求大佬指点。

leoluopy avatar Mar 27 '23 14:03 leoluopy

用with_lora训练，但是我感觉效果一般，可能是我数据集太少了

Chtholly1 avatar Mar 30 '23 01:03 Chtholly1