EHCF icon indicating copy to clipboard operation
EHCF copied to clipboard

关于reg_loss里面两项的系数问题

Open zengchen-git opened this issue 3 years ago • 2 comments

作者你好,我看到你的代码里面有self.lambda_bilinear = [1e-4, 0.0],用于reg_loss之中,这些系数的作用是什么?在EHCF单行为的代码中,这两个系数甚至为0,那么reg_loss不是永远为0吗?对于训练又起着什么样的作用?

zengchen-git avatar Sep 16 '20 08:09 zengchen-git

Hi,您好,这个系数是控制l2 regression的正则化系数,防止模型过拟合的。 代码里面加上self.lambda_bilinear是为了让代码的可扩展性更强。其实在我们的模型里面它并不是一个影响大的参数,默认设置为0就可以了。因为我们的模型里面主要通过调节dropout来防止过拟合。

chenchongthu avatar Sep 16 '20 08:09 chenchongthu

谢谢解答

zengchen-git avatar Sep 16 '20 08:09 zengchen-git