Lyu Shuhang

好的，感谢，我试一下，有问题的话我再回复你，非常感谢

请问你是怎么上传项目的啊，我只能一个个py文件上传，然后东西就乱了，数据集我到是上传了，而且预处理的那些文件我压根穿不过去

我上传到dataset了，但是我相关配置我也调整了，但现在不知道怎么使用命令python run.py --model bert 来运行我的文件

@shizhediao 您好，请问34G的模型需要多少内存啊？

> @shizhediao 您好，请问34G的模型需要多少内存啊？ zero2，zeor3 分别需要多少，您有经验吗，数据集量级在2W？或者多少，社区成功过的经验是多少呀

ok，我试一下 > 34B的模型吗？模型参数量是多少？ 没有具体的经验，每个模型都不太一样。可以测算一下https://deepspeed.readthedocs.io/en/latest/memory.html

> # TODO LIST > * [x] Class Packer update > * [x] 构造测例验证可行性 > * [ ] 打印细节进行检查 > * [ ] intern repo、check custom data模块同步修改 > * [...

不知道你进展怎么样了，应该是可以的， deep_sort文件里面有配置文件，你可以自己训练以后修改配置文件

同意下 1216762329，感谢

哈哈，好的，如果我能在你们更新之前pr的话