mark_idx setting

[HuizhenShu]

在情感预测模型中，prefix是“很满意。”，候选答案是“很”和“不”，目前mark_idx是1，这样的话mask后的句子输入是“很[MASK]意”+text，这样看起来挖空的位置没什么实际含义。请问是我理解有什么不对吗，为什么不将mark_idx设为0呢？

[HuizhenShu]

另外我感觉，如果将prefix设为“满意。”，候选答案不变。mark_idx=0。当label不为2时，用insert将[mask]插入source，将候选答案插入target比较合适。

[yc1999]

在情感预测模型中，prefix是“很满意。”，候选答案是“很”和“不”，目前mark_idx是1，这样的话mask后的句子输入是“很[MASK]意”+text，这样看起来挖空的位置没什么实际含义。请问是我理解有什么不对吗，为什么不将mark_idx设为0呢？

你好，根据我的理解，你没有考虑到BERT输入时，句子前面会有一个[CLS]哦。这个mark_idx是考虑了CLS之后的idx~即[CLS]很满意。