Probabilistic-Face-Embeddings icon indicating copy to clipboard operation
Probabilistic-Face-Embeddings copied to clipboard

Why is loss rising

Open zqnnn opened this issue 4 years ago • 10 comments

I trained on my own dataset, the reg loss is rising , and loss is a negative number. Why does this happen?

zqnnn avatar Mar 26 '20 12:03 zqnnn

请问一下,我想在自己的数据上训练,是不是应该先训练基础的Sphere64,再固定之前的训练不确定模块?Sphere64网络的训练有代码可以参考吗?

zqnnn avatar Mar 27 '20 04:03 zqnnn

从数学公式上来看,negMLS不能保证非负。老铁,加个微信讨论下细节哈,我wechat:On_theway24,备注一下是PFE模型讨论哈。

Ontheway361 avatar Apr 27 '20 12:04 Ontheway361

@Ontheway361

從 PAPER 的 Equation(3) 來看,會導致出現負號的原因是因為加了 log 嗎

twmht avatar Apr 29 '20 03:04 twmht

只要可以保證 log(σ2(l)i+σ2(l)j) 為正的話,基本上就是 negMLS 就是恆正了

twmht avatar Apr 29 '20 03:04 twmht

@twmht , 事实上,不能保证 log(σ2(l)i+σ2(l)j) > 0!

Ontheway361 avatar May 06 '20 00:05 Ontheway361

@Ontheway361

我覺得應該 log 裡面要加個 exp?

twmht avatar May 06 '20 05:05 twmht

坦白来说,我认为论文中的公式(3)是错误的,我自己没有推导出来,然后发邮件咨询作者,作者也不回复邮件。所以,我觉得这篇文章就是垃圾,推荐你看CVPR-2020的一篇paper :Data Uncertainty Learning in Face Recognition.

Ontheway361 avatar May 07 '20 06:05 Ontheway361

@Ontheway361

那篇我知道呀! 但目前沒有 source code 不好複製

twmht avatar May 11 '20 01:05 twmht

PFE 的 similarity 沒有上限,但作者似乎也沒給一個實驗建議值

twmht avatar May 11 '20 01:05 twmht

推不出来公式3+1

hungsing92 avatar Oct 13 '21 07:10 hungsing92