stacy.shu

Results 2 issues of stacy.shu

感谢开源 NER任务,同样的模型结构,使用Static embedding可以得到正常的结果,使用bert embedding loss可以正常下降,但评估结果一直都是0。大概是什么原因呢?是词表对不上吗?我看了代码,应该有把本地vocab和bert的vocab做映射。不过有一点很奇怪,我打印了同一个字符的embedding值,每次打印结果都不一样,是随机初始化的吗还是预训练模型没有成功读取?

在情感预测模型中,prefix是“很满意。”,候选答案是“很”和“不”,目前mark_idx是1,这样的话mask后的句子输入是“很[MASK]意”+text,这样看起来挖空的位置没什么实际含义。请问是我理解有什么不对吗,为什么不将mark_idx设为0呢?