DASR icon indicating copy to clipboard operation
DASR copied to clipboard

关于正样本与负样本的选取问题

Open JiaWang0704 opened this issue 2 years ago • 3 comments

您好!非常感谢您的工作。我在阅读您的paper的时候,如果我没有理解错的话,您是从同一LR图像中提取的其他图像块视为正样本,来自其他LR图像的图像块视为负样本。

但是我在阅读您的代码的时候,您始终都是以一个image作为单位来进行对比学习的。

因此来请教一下您,是我哪里的理解出问题了吗?

期待您的回复,谢谢!

JiaWang0704 avatar Feb 07 '23 15:02 JiaWang0704

您好,您理解的没错,我们将同一LR图像中提取的其他图像块视为正样本,来自其他LR图像的图像块视为负样本。 具体到代码里也是这么操作的,dataloader里完成了的图像块的裁取,所以送入网络的就已经是图像块了。您可以再具体一下疑惑的代码位置方便进一步解释您的疑惑。

LongguangWang avatar Apr 08 '23 02:04 LongguangWang

你好,我也有这个疑惑。trainer.py第73行代码:_, output, target = self.model_E(im_q=lr[:,0,...], im_k=lr[:,1,...]) 这是将同一张LR图像的两个patch送入Moco,两个patch的退化是一样的,这都是正样本,好像没有看到负样本呀。在class Moco的forward中,有两行代码:l_pos = torch.einsum('nc,nc->n', [q, k]).unsqueeze(-1),l_neg = torch.einsum('nc,ck->nk', [q, self.queue.clone().detach()]),这两行代码写的是正负样本特征。我有点疑惑,输入的是同一张图像的两个patch,退化信息是相同的,为什么在Moco中分出了正负样本呢?

BugMaker-99 avatar Dec 18 '23 14:12 BugMaker-99

感谢关注~self.queue中保存了之前iteration送入的patch样本。由于不同图像之间的退化是不一样的,因此这些之前iteration送入的、保存在self.queue中的样本对于当前的query来说就成了负样本。

LongguangWang avatar Dec 18 '23 14:12 LongguangWang