ZefengHan

十分感谢。还有一个疑问。以前学习transform时老师说开始的positionembedding和词向量是直接加的关系（对应位置相加），不是拼接关系，好像代码中也没有使用positionembedding？盼复

是这样啊 明白啦 代码写的非常全面啊 再次感谢

关于transformer的测试文件编写还是存在困惑，望作者老师能给解答一下。

谢谢您啦！

我想把这个程序改成多分类的情况，我在做目标情感分析，是三分类的，主要问题在那些评价指标的改动上？望指教。

你好 在改成三分类的时候遇到另外一个问题 全连接层这里还是二分类器的函数，出来的self.predictions形状是,（3，），里面的数据类型是inter32，我该改成哪种预测函数，望指教 self.binaryPreds = tf.cast(tf.greater_equal(self.predictions, 0.5), tf.float32, name="binaryPreds") 报错如下：TypeError: Expected int64 passed to parameter 'y' of op 'GreaterEqual', got 0.5 of type 'float' instead. 

1.谢谢解答，代码已经改成下面这样了？模型已经能够训练了，也就是说性能指标我得自己重新定义新的多标签性能指标，里面性能指标的结果是不是不参与训练的过程？   2.还有一个问题 模型保存图片如下，我只要把代码取消注释到目前行是不是就可以了？  3.checkpoint文件的测试程序在代码压缩包里有吗？

太感谢了！多谢指教！

> 请问，你有测试过多分类的各个模型结果吗？ 测试文件还没写好等写好了测试下和你说

你好，作者，在编写测试文件的时候遇到了困难，望解答