bert-utils
bert-utils copied to clipboard
一行代码使用BERT生成句向量,BERT做文本分类、文本相似度计算
  
我的场景是两个文本的相似度,思路是:微调后,抽取的最后一层池化作为了句向量,用余弦来计算相似度。是768维的,效果还可以,后来因为有个需求需要降低到128维,我直接在768维后面接了一个全连接降到128维了。但是效果就不好了....是不是这种方式不可行?
这个是怎么回事

下载预训练模型之后,跑了训练和检测, 在预测的时候,发现相同的两个句子相似度很低,毫不想干的两个句子相似度反而高
就是最大序列长度设置得太小,# 序列的最大程度,单文本建议把该值调小 max_seq_len =
tensorflow.python.framework.errors_impl.InvalidArgumentError: assertion failed: [predictions must be in [0, 1]] [Condition x
出现 fail to optimize the graph! @@@的情况,请问是为什么呢@terrifyzhao