Firefly does not appear to have a file named configuration

does not appear to have a file named configuration_baichuan.py

Open Data2Me opened this issue 1 year ago • 4 comments

使用firefly-baichuan-13b 微调得到firefly-baichuan-13b-sft，微调后合并firefly-baichuan-13b-sft 与Baichuan-13B-Base 进行推理，报错：

Aug 28 '23 08:08 Data2Me

我也遇到这个问题，你解决了吗

Aug 31 '23 02:08 bradzuo

我也遇到了这个问题，该如何解决。目前只能动态加载qlora权重，缺点是每次执行都要合并一次，等待时间较长。

Sep 14 '23 08:09 yinjuxin

我得到了解决方案，只要从baichuan源模型文件里复制configuration_baichuan.py等文件放到我们合并的路径中就可以正常跑通了应该是合并的代码没有保存那几个文件

Oct 23 '23 03:10 22zhangqian

我得到了解决方案，只要从baichuan源模型文件里复制configuration_baichuan.py等文件放到我们合并的路径中就可以正常跑通了应该是合并的代码没有保存那几个文件

你好，“放到我们合并的路径中”这个路径指的是哪个？是merge_lora.py同级目录还是save_path？

Mar 08 '24 08:03 VJJJJJJ1