zhaoyiming

intraloss和interloss是否总是分别在减小和增大？

2

我最近在声音的一些识别工作上尝试使用SFace，发现在第一个epoch中的最初intraloss是在不停减少的，但是到后面的epoch甚至会逐渐增大，稳定在一个范围，但是错误率在下降，这是比较反优化目标，或者说这样的稳定就是把loss控制在一个合适的范围？ 这是我的训练loss，我使用的是adam+Cyclical Learning Rates学习率调整策略（学习率会周期从最低到最高），这和您在论文中使用的SGD+固定缩减lr不太相同。 epoch: 1, lr: 7.27e-03 - train loss: -6.43e+00, train intra_loss: -2.75e+01, train inter_loss: 21.07 - valid loss: -1.13e+01, valid intra_loss: -3.15e+01, valid inter_loss: 20.16, valid ErrorRate:...