RecBole icon indicating copy to clipboard operation
RecBole copied to clipboard
verified publisher icon RUCAIBox

[🐛BUG] SGL的info_nce loss实现的与官方的有出处？

Open openchao opened this issue 11 months ago • 1 comments

描述这个 bug SGL的info_nce loss实现的与官方的有出处。

如何复现

Image 这里没有去除正样本的损失

openchao avatar Jan 24 '25 04:01 openchao

@openchao 您好！SGL文章中ssl user的loss是参考了传统Info_nce loss，在infonce中，分母部分本身也是需要包含了正样本的计算结果的。

Fotiligner avatar Feb 17 '25 13:02 Fotiligner