FlagEmbedding icon indicating copy to clipboard operation
FlagEmbedding copied to clipboard
verified publisher icon FlagOpen

LLM-based reranker是否要加入prompt

Open newfyu opened this issue 1 year ago • 1 comments

比如bge-reranker-v2-minicpm-layerwise, bge-reranker-v2.5-gemma2-lightweight等模型 示例中 使用hunggingface的库加载，加入了prompt 使用FlagEmbedding的库加载，没有使用prompt，应该是自动加入了

但bge-reranker-v2.5-gemma2-lightweight，好像提出了4种不同的prompt，在使用FlagEmbedding库的时候又怎么区分和指定prompt呢？

newfyu avatar Aug 13 '24 12:08 newfyu

使用FlagEmbedding的时候可以在compute_score的时候指定使用哪一个prompt，不指定的话就会加载默认的prompt

545999961 avatar Aug 16 '24 08:08 545999961