训练完试图测试报错

[janglichao]

RuntimeError: Error(s) in loading state_dict for PeftModelForCausalLM: size mismatch for base_model.model.transformer.layers.0.attention.query_key_value.lora_A.default.weight: copying a param with shape torch.Size([16, 4096]) from checkpoint, the shape in current model is torch.Size([8, 4096]). size mismatch for

---

按照你提供的方法训练完报错的。这个什么意思

[xuwei-fit2cloud]

如果没有其他的docker容器处于运行状态，可以执行一下service docker restart，重启一下docker服务试试。

[github-actions[bot]]

您超过 30 天未反馈信息，我们将关闭该 issue，如有需求您可以重新打开或者提交新的 issue。