Firefly icon indicating copy to clipboard operation
Firefly copied to clipboard

Published 20 hours ago • verified publisher icon yangjianxin1

warmup学习率不变

Open shudct opened this issue 1 year ago • 0 comments

1702544451229

1702544823282

我使用最新的代码微调，使用的是下面的参数，但是warmup的学习率没有变化（我是每一个step都打印），数据使用的是moss 4w条+math 1w条，请问可能是什么原因呢

shudct avatar Dec 14 '23 09:12 shudct