Yingxuan Li

Results 3 issues of Yingxuan Li

如果通过设计system_template,让模型在搜索到的文档都不太相关的情况下回答“我不知道”

更新colossalai的版本为0.4.2,把opensora/utils/train_utils.py中line35的 master_param = optimizer._param_store.working_to_master_param[param_id] 修改为master_param = optimizer.working_to_master_param[param_id] 可以获得更好的性能,收益约10%, 因为新版本的colossalai对optimizer.step()的通信做了聚合,减少了通信的次数。

stale