FlagEmbedding
FlagEmbedding copied to clipboard
第三阶段的loss请教
第三阶段的loss说的是使用multi-task learning,单对于检索任务来说,loss是否还是对比学习的loss呢?
因为检索中常常会要考虑是否可以根据reranker的打分进行过滤,但如果是对比学习的loss,打分绝对值应该是没有意义的,没有经过具体的回归任务,不应该依赖绝对分值
所以还是想确认下第三阶段的loss具体形式
所有任务都是使用的对比学习。