sft训练需要合并权重吗？

Open 258863 opened this issue 1 year ago • 1 comments

Jun 28 '24 02:06 258863

是不需要的，例如llava sft训练vision encoder部分参数不更新，训练时不会保存vision encoder部分，而推理阶段会自动加载这部分参数

Jul 22 '24 06:07 jerrywgz