ssbuild

> 改了参数之后，删除output下的数据，再来一次data_utils.py？这个做了 关掉deepspeed跑跑看！

> 关了试一下，感觉好一点，但还是很大： torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 128.00 MiB (GPU 1; 31.75 GiB total capacity; 30.54 GiB already allocated; 27.75 MiB free; 30.76 GiB reserved in total...

#93

https://github.com/ssbuild/chatglm_finetuning/blob/02665fa1380dc459631caa067976a7da8b1bec44/config/main.py#L10 https://github.com/ssbuild/chatglm_finetuning/blob/02665fa1380dc459631caa067976a7da8b1bec44/config/sft_config_ptv2.py#L8 按照需求，修改这几处即可

数据没制作成功， 删除output文件夹， 重新制作数据。

两种数据最终都要转成 qa , 也就是两种数据内容形式都可以， 数据结构是qa 即可。

是的。

1. 语料只是给了一个数据格式 ， 也给了第三方数据链接。 2. 英文可以参考 https://github.com/tatsu-lab/stanford_alpaca

> @ssbuild 这个有什么办法吗 感谢持续关注，这两天得空就加一下evaluate dataset ，it should be easy。

评估 移至 https://github.com/ssbuild/aigc_eval