GH
GH
这样是不是需要改transformer的结构，在encoder、decoder attenttion计算中加入coverage部分（+ w_c*C_t），然后在loss中加一项covLoss？请问有方案了吗？
> > 我是在这下面免费下载的http://www.sogou.com/labs/resource/w.php > > 请问你在读取这个文件的时候有没有遇到bug-->:UnicodeDecodeError: 'utf-8' codec can't decode byte 0xb8 in position 2: invalid start byte 我也遇到这个问题了，请问解决了吗？如解决了，请问是怎么解决的，感谢。
嗯，好的，感谢回复。因为huggingface的GPT2的token_type_embedding的实现是复用了token_embedding，网络结构上和不加token_type_ids没有区别，以为lightseq GPT2能支持的。🙏
+1，我也遇到了
+1