xiaoyan88
xiaoyan88
> 您好,dense embedding的微调是可以直接使用之前的脚步的。 微调脚本不是直接指定模型地址嘛,指定为M3后无法运行,然后显示“config_name=None, tokenizer_name=None”报错“"None": No such file or directory Error”
> > > 您好,dense embedding的微调是可以直接使用之前的脚步的。 > > > > > > 微调脚本不是直接指定模型地址嘛,指定为M3后无法运行,然后显示“config_name=None, tokenizer_name=None”报错“"None": No such file or directory Error” > > 建议给出微调脚步和详细信息,理论上是可以直接运行的 使用的图片上的运行脚本,也就是官方的那个,用的官方的toy数据,报了图里的错误  
> 是tiktoken的锅,[tiktoken_ext/openai_public.py#L17](https://github.com/openai/tiktoken/blob/4560a8896f5fb1d35c6f8fd6eee0399f9a1a27ca/tiktoken_ext/openai_public.py#L17)会去下载gpt2的分词器 而dify在[python/dify_plugin/interfaces/model/ai_model.py#L281](https://github.com/langgenius/dify-plugin-sdks/blob/b936b1be9f91d1ae6725604ad8938b80cf42c635/python/dify_plugin/interfaces/model/ai_model.py#L281)引用了gpt2的分词器 请问怎么解决呢