pytorch-relation-extraction icon indicating copy to clipboard operation
pytorch-relation-extraction copied to clipboard

PCNN 多实例损失函数问题

Open VinnyHu opened this issue 5 years ago • 1 comments

作者您好,想和您探讨下2015年的那篇PCNN论文的损失函数问题,看您在博客中的描述和原论文中的描述,我对bag级别的损失函数理解如下:①对于某个bag,假设label为1,则在该bag所有的instances中选择label为1 预测 概率最大的那个instances 代表该bag。②针对上面选择的logits,对T个bag计算交叉熵。 然后16年刘知远他们的改进就是在这个选择的部分引入了 attention 分数。 这样对吗?谢谢您

VinnyHu avatar Nov 30 '19 08:11 VinnyHu

你好! 你的理解是正确的,区别就在instance pooling阶段,一个是取max, 一个是attention.

ShomyLiu avatar Nov 30 '19 08:11 ShomyLiu