Baichuan-QLora icon indicating copy to clipboard operation
Baichuan-QLora copied to clipboard

Finetune baichuan pretrained model with QLora method

Results 4 Baichuan-QLora issues
Sort by recently updated
recently updated
newest added

如题,请问qlora微调baichuan7b需要的最低显存是多少?

作者是否尝试过 代码中的 trainer.train(resume_from_checkpoint=resume_from_checkpoint) 是否可以正常使用, ![image](https://github.com/Macielyoung/Baichuan-QLora/assets/39985245/a15b036c-d187-4ae3-9d8f-70cb61f08e25) 我使用的时候报错,huggingface 现在应该不支持resume lora 模型

代码写的很棒!简单易懂,比其他 高 star 的项目好多了

请问训练结束后,训练集中的问题答案能完全记住不?