zeruiz99

关于embedding微调后使用reranker的效果反而下降问题

12

其中有几个问题，首先使用的是bge-m3和bge-reranker-v2以及layerwise以及gemma-2b这几个都试着微调了，然后全部按要求进行微调以及评测数据集格式正确，各种都检查过，遇到了几个问题 1. 在使用step0-rerank-result (https://github.com/FlagOpen/FlagEmbedding/blob/master/C_MTEB/MKQA/README.md 中multivector and all rerank)时，有显示： Some weights of XLMRobertaModel were not initialized from the model checkpoint at /embedding/m3reranklong and are newly initialized: ['roberta.pooler.dense.bias', 'roberta.pooler.dense.weight'] 不知道这是因为什么原因 2. 在微调完embedding时，在评测dense...

bge模型评估过程中，embedding+rerank后的recall分数比embedding自己的recall分数低

12

使用的bge-m3 embedding模型，想问下跑完MultiVector and All Rerank这个评估过程以后，embedding+rerank的召回分数还降低了这个正常嘛，两个都是原本的比原embedding分数低，两个都是微调过的比微调过的embedding分数低