likunrui0114
Results
1
comments of
likunrui0114
> 你好，transformers库里面bert的源中，添加了高级mlp pooler，self.pooling='pooler'时，可以直接取到mlp层的结果，修改参数就行了，我的代码只是对比了几个不同的pooling方式，最后直接取cls的效果有点好 谢谢！那您的意识是直接取cls同时作用在下游任务和对比学习过程中(损失计算)？