关于优化器和学习率

[Lllllolita]

请问，Adadelta优化器是自适应更新学习率的，请问您为什么还要对学习率进行余弦调整呢？非常抱歉打扰了，中秋佳节快乐！

[LBH1024]

请问，Adadelta优化器是自适应更新学习率的，请问您为什么还要对学习率进行余弦调整呢？非常抱歉打扰了，中秋佳节快乐！

你好，可以看一下论文中提到余弦学习率时所引用的李沐的文章，里面有一些说明和比较。