createmomo
createmomo
Hello, thank you so much for your kind response, and also the nice code demonstration! This is very helpful to me. Allowing missing data for alpha is exactly what I...
> @intersun Hi, thanks for your reply. Indeed the link in normal and I could download the `keys-full.tar`. But I have encountered other problems. > > 1. I think the...
> 微调一些文档数据，得到的答案会有一部分重复 训练了多久，文档数据规模大概是多大呢？有观察训练loss的走势嘛？
> 运行的命令是deepspeed --num_gpus=2 train.py --train_args_file train_args/sft.json时报错 > > deepspeed的设置文件ds_z3_config.json 项目里未见使用？ `train.py: error: unrecognized arguments: --local_rank=1` 我这里也会报这个错，请问你那里解决了吗？
> > 运行的命令是deepspeed --num_gpus=2 train.py --train_args_file train_args/sft.json时报错 > > deepspeed的设置文件ds_z3_config.json 项目里未见使用？ > > `train.py: error: unrecognized arguments: --local_rank=1` > > 我这里也会报这个错，请问你那里解决了吗？ 恩，应该是torch版本的问题，我的版本太高了（2.0）,不是按照文档里面装的（1.13）
确实，我也是加了这一句可以运行了😂 nihaoUCAS ***@***.***>于2023年6月25日 周日19:14写道： > 运行的命令是deepspeed --num_gpus=2 train.py --train_args_file > train_args/sft.json时报错 > deepspeed的设置文件ds_z3_config.json 项目里未见使用？ > > train.py: error: unrecognized arguments: --local_rank=1 > 我这里也会报这个错，请问你那里解决了吗？ > > 恩，应该是torch版本的问题，我的版本太高了（2.0）,不是按照文档里面装的（1.13） > > 应该在parser处再添加一个local_rank, 因为deepspeed起任务的时候会给每个进程加上一个local_rank的超参。...
Super nice~ Woosuk Kwon ***@***.***>于2023年7月4日 周二04:15写道： > @wangkuiyi @ruidongtd > @createmomo > @nuass @wengrx > @rossbucky @bsabri > We've just added BLOOM. You can immediately > use it by installing...
Hi, does anyone find the latest working link? Thank you!
> > > > thanks, it just helped me a lot! got my device upgraded to the latest version Sorry I'm not professional, about the instruction I quote below, would...