ChatGLM-6B icon indicating copy to clipboard operation
ChatGLM-6B copied to clipboard

可以使用自己的数据微调吗

Open Malestudents opened this issue 1 year ago • 1 comments

Malestudents avatar Mar 14 '23 09:03 Malestudents

是否可参考 #3 ?

yaleimeng avatar Mar 15 '23 03:03 yaleimeng

可以的吧,我也是参考别人修改的微调,做了一个,把数据放进去,处理成要的格式不就行了吗?

https://github.com/chenyiwan/chatglm-6b-fine-tuning

cywjava avatar Mar 29 '23 03:03 cywjava

已经实现了基于量化和ptuning的微调https://github.com/THUDM/ChatGLM-6B/tree/main/ptuning ,最低只需要7GB显存

duzx16 avatar Mar 31 '23 03:03 duzx16

这个对于数据集中数据长度有要求吗

EasyLuck avatar Apr 18 '23 08:04 EasyLuck

可以的吧,我也是参考别人修改的微调,做了一个,把数据放进去,处理成要的格式不就行了吗?

https://github.com/chenyiwan/chatglm-6b-fine-tuning

这个对于数据集中数据长度有要求吗

EasyLuck avatar Apr 18 '23 08:04 EasyLuck