deep-learning-for-image-processing icon indicating copy to clipboard operation
deep-learning-for-image-processing copied to clipboard

训练时lr的显示问题

Open CJ666-njust opened this issue 2 years ago • 2 comments

up你好,在模型的训练过程中,lr的显示仅在warm up的过程会变化,之后就固定了。但是tensorboard中记录的lr却是正常的。是create_lr_schedule函数中的返回值的问题吗

CJ666-njust avatar Mar 15 '23 11:03 CJ666-njust

lr不是固定的吧?是有函数的呢,有学习率update。up用的Cos函数的lr下降呀。scheduler.step()

HaronCHou avatar Aug 04 '23 05:08 HaronCHou

能具体说下是那个模型的训练脚本,然后你学习率相关的设置是怎样的,epoch设置的是多少。

WZMIAOMIAO avatar Nov 20 '23 14:11 WZMIAOMIAO