FlagEmbedding icon indicating copy to clipboard operation
FlagEmbedding copied to clipboard

bge-m3 fine-tune

Open yichen-liang opened this issue 1 year ago • 5 comments

您好,请问一下,bge-m3怎么进行fine-tune呢,之前fine-tune bge的脚本好像不能用在bge-m3上

yichen-liang avatar Feb 25 '24 12:02 yichen-liang

您好,dense embedding的微调是可以直接使用之前的脚步的。

staoxiao avatar Feb 26 '24 02:02 staoxiao

您好,dense embedding的微调是可以直接使用之前的脚步的。

微调脚本不是直接指定模型地址嘛,指定为M3后无法运行,然后显示“config_name=None, tokenizer_name=None”报错“"None": No such file or directory Error”

xiaoyan88 avatar Feb 26 '24 06:02 xiaoyan88

您好,dense embedding的微调是可以直接使用之前的脚步的。

微调脚本不是直接指定模型地址嘛,指定为M3后无法运行,然后显示“config_name=None, tokenizer_name=None”报错“"None": No such file or directory Error”

建议给出微调脚步和详细信息,理论上是可以直接运行的

staoxiao avatar Feb 26 '24 08:02 staoxiao

您好,dense embedding的微调是可以直接使用之前的脚步的。

微调脚本不是直接指定模型地址嘛,指定为M3后无法运行,然后显示“config_name=None, tokenizer_name=None”报错“"None": No such file or directory Error”

建议给出微调脚步和详细信息,理论上是可以直接运行的 使用的图片上的运行脚本,也就是官方的那个,用的官方的toy数据,报了图里的错误 图片 图片1

xiaoyan88 avatar Feb 27 '24 00:02 xiaoyan88

建议核查一下data/models/bge-m3里面文件是否有缺失,我们这边运行时没有问题的

staoxiao avatar Feb 27 '24 10:02 staoxiao