SSAN icon indicating copy to clipboard operation
SSAN copied to clipboard

关于复现结果的问题

Open JJJiangYH opened this issue 2 years ago • 1 comments

您好,很感谢您所做出的卓越的成绩。 在进行复现时,我是用原代码中的参数设置进行。 在使用base bert;bs=4;epoch=40的情况下,跑出的数据F1为0.496。与论文中数据差异过大。 但是在Paddle实现的代码中,使用Ernie的效果与论文中相近。 因此想了解一下,您论文中的实验也是通过Ernie进行的吗?或者是将基于Bert的Ernie也算作为Bert模型进行的实验。 image 望回复,谢谢。

JJJiangYH avatar Dec 20 '22 15:12 JJJiangYH

感谢关注我们的工作,论文中的实验是通过标准的BERT进行的,请首先检查pytorch和transformers的依赖版本,因为代码的实现比较早,所以对应的版本也比较老了,另外,请检查bert的checkpoint文件是否相匹配(对应transformers==2.7)。

以下两个issue有相应的md5值,可供参考: https://github.com/BenfengXu/SSAN/issues/8 https://github.com/BenfengXu/SSAN/issues/7

BenfengXu avatar Dec 20 '22 16:12 BenfengXu