aigc_serving icon indicating copy to clipboard operation
aigc_serving copied to clipboard

chatglm微调后的模型加载失败

Open xiaochaich opened this issue 2 years ago • 2 comments

使用https://github.com/hiyouga/LLaMA-Factory项目微调后的ChatGLM模型加载失败。 image

使用https://github.com/hiyouga/LLaMA-Factory项目微调后的yi模型合并后可以加载,但是加载的模型测试发现没有微调效果,估计是加载合并后的模型的时候,没有加载上lora权重。

xiaochaich avatar Mar 25 '24 13:03 xiaochaich

pip list | grep -E "ing|trans"

ssbuild avatar Mar 25 '24 13:03 ssbuild

image

xiaochaich avatar Mar 25 '24 13:03 xiaochaich