FlagEmbedding icon indicating copy to clipboard operation
FlagEmbedding copied to clipboard

第三阶段的loss请教

Open t6am3 opened this issue 1 year ago • 1 comments

第三阶段的loss说的是使用multi-task learning,单对于检索任务来说,loss是否还是对比学习的loss呢?

因为检索中常常会要考虑是否可以根据reranker的打分进行过滤,但如果是对比学习的loss,打分绝对值应该是没有意义的,没有经过具体的回归任务,不应该依赖绝对分值

所以还是想确认下第三阶段的loss具体形式

t6am3 avatar Apr 24 '24 10:04 t6am3

所有任务都是使用的对比学习。

staoxiao avatar Apr 25 '24 04:04 staoxiao