SimCSE-Pytorch
SimCSE-Pytorch copied to clipboard
Published
20 hours ago •
shuxinyin
shuxinyin
results
ESimCSE 真的有效果吗？
是有的，在同样的参数下做实验，ESimCSE有比SimCSE提高一个点左右， 可以自己试试。
我测试了一下，没有效果。SimCSE dropout 0.3 lr 2e-5。可以试一下，最高能跑到71.几。
ESimCSE 真的有效果吗？
是有的，在同样的参数下做实验，ESimCSE有比SimCSE提高一个点左右， 可以自己试试。
我测试了一下，没有效果。SimCSE dropout 0.3 lr 2e-5。可以试一下，最高能跑到71.几。
这是调的SimCSE的最佳效果？那你精细调了ESimCSE的效果么，因为先不谈ESimCSE的模型改动，单独采用repeat改变句子的长度就应该有效果的，这点确实是SimCSE没有考虑到的地方
ESimCSE 真的有效果吗？
是有的，在同样的参数下做实验，ESimCSE有比SimCSE提高一个点左右， 可以自己试试。
我测试了一下，没有效果。SimCSE dropout 0.3 lr 2e-5。可以试一下，最高能跑到71.几。
这是调的SimCSE的最佳效果？那你精细调了ESimCSE的效果么，因为先不谈ESimCSE的模型改动，单独采用repeat改变句子的长度就应该有效果的，这点确实是SimCSE没有考虑到的地方
没有怎么精调，随便加加 dropout，你说的这个我原来也觉得有用，但我实际测了感觉无用。