SwissArmyTransformer icon indicating copy to clipboard operation
SwissArmyTransformer copied to clipboard

ema模型是否正确被保存

Open Blueskyvvvvv opened this issue 6 months ago • 1 comments

想问一下这里是如何实现ema模型的保存呢: image 从这里没有看到model被显示的修改,是deepspeed内完成的么?

我有check保存下来的model和ema_model,发现参数是完全一样的,所以不确定是不是使用方式有问题,望解答,感谢

Blueskyvvvvv avatar Aug 10 '24 08:08 Blueskyvvvvv