VisionLAN
VisionLAN copied to clipboard
关于单字符label
单字符label不需要语义信息,但是也会经过这个函数,采样的change_id=0,imput_lable = imput_lable[:change_id]
责imput_lable=‘ ’,即像这样
在训练过程中会发生错误
This line当输入词长度为1时,MLM的遮挡部分gt长度为2(遮挡字符+终止符),剩余部分是长度为1(终止符)。因为有终止符的存在,gt不会出现长度为0的情况。请检查代码是否有进行改动。