wf42m_pc02_r100复线训练8卡

Open yeluohuazhifou opened this issue 1 year ago • 4 comments

请问该实验用的lr_scheduler是PolynomialLRWarmup吗，但是我观察我训练的过程中学习率的下降要慢于您提供的训练log里的数值，整体loss的下降也要慢于您提供的训练log里的数值，请问可以解答一下吗，是不是还用了其他的lr_scheduler呢

Nov 28 '24 05:11 yeluohuazhifou

你好，能分享一下数据集吗？

Apr 10 '25 06:04 RenXiaoShuang

你提到的这个问题我也在复现glint360k时遇到过，我们可以交流下

Apr 10 '25 06:04 RenXiaoShuang

你好，数据集可以分享一下吗

Jun 19 '25 06:06 cicijohn1983

复现glint360k，调整完lr_scheduler 你复现结果能对上么@RenXiaoShuang

Oct 09 '25 03:10 prozyy