Real-300K icon indicating copy to clipboard operation
Real-300K copied to clipboard

Published 20 hours ago • verified publisher icon Canjie-Luo

关于论文中 key 和 query的意义；

Open NUAA-XSF opened this issue 2 years ago • 1 comments

你好，最近在看这篇论文SimAN，有一个问题一直很疑惑，论文中两个特征（来自 I_s 和 I_aug）, 通过 instance norm 产生了 key和 query； 二者来自图像的不同部分，都属于content ； 但已疑惑的是 key和query做 矩阵乘法的意义是什么，有什么可以解释的通的地方？

NUAA-XSF avatar Nov 16 '22 15:11 NUAA-XSF

如果看成是笔划/字形之间的查询，可能会好理解一点

Canjie-Luo avatar Dec 16 '22 09:12 Canjie-Luo