zhiqiang huo

In models.py ```python # line 281 self.bert = BertModel(config, add_pooling_layer=False) # line 340 self.roberta = RobertaModel(config, add_pooling_layer=False) ``` So trian with this,there is no `pooling_layey`, but with ` "cls_before_pooler"` However,it...

> 解决了，参考一下上面的回复。由于训练的时候设置了add_pooling_layer=False，而tool.py中在有监督的情况下仍然使用了这一层参数,因此推理的时候随机初始化导致推理结果每次都不一样的情况。 所以修改方式两种， 1. 如果自己微调的话，修改训练模型里面的add_pooling_layer=True 仍然使用pooling_layer. 2. 如果不使用pooling_layer的话 修改tool.py使用hidden_state (self.pooler = "cls_before_pooler"),而不是使用cls. ` elif "unsup" in model_name_or_path: # change "unsup" -> "sup" is work `

很好奇 url里面的Uci这个参数从哪里来的？

个人建议。现在放到huggingface上的数据属于法律文书甚至还有学习强国上的。 这些包含了部分隐私信息的情况。个人任务这部分数据还是暂时不公开或者脱敏的好，不然很容易担责。