FlagEmbedding icon indicating copy to clipboard operation
FlagEmbedding copied to clipboard
verified publisher icon FlagOpen

关于finetune的相关问题

Open mfxss opened this issue 7 months ago • 2 comments

我关注到我们使用的是对比学习，对比正负样本来进行微调。我想问的是我们是否使用到listwise来进行微调，把正样本进行排序做训练数据。

mfxss avatar May 26 '25 08:05 mfxss

训练中用到的是InfoNCE loss，每条数据只用到一个正样本进行训练

545999961 avatar May 28 '25 06:05 545999961

训练中用到的是InfoNCE loss，每条数据只用到一个正样本进行训练

我现在想要训练它的 Embedder 模型，看到它的数据中有Pos-Score 这个内容，我想知道这个从哪里得到呢？ 如果默认一般可以设置为多少呢

hermanWu55 avatar Jul 02 '25 11:07 hermanWu55