zero-lora icon indicating copy to clipboard operation
zero-lora copied to clipboard

合并 Lora 和模型

Open ziwang-com opened this issue 2 years ago • 0 comments
trafficstars

https://github.com/oobabooga/text-generation-webui/issues/2474

是否可以添加一个选项来将 Lora 与基本模型合并?从本地目录。因为有时它很方便。由于用于合并 Lora 和模型的现有脚本在 Windows 中不起作用.如果它们有效,不仅适用于普通用户,而且适用于该领域训练有素的人。但是,据我了解,Webui 是针对普通用户的,进一步扩展其功能会很好。

脚本在windoze上运行良好(从ooba env运行)

我试图在这里发布脚本,但 github 格式很糟糕。无论如何,寻找merge_peft_adapters.py

https://github.com/briancabbott/ChatNow https://github.com/bigcode-project/starcoder https://github.com/mzbac/qlora-fine-tune

ziwang-com avatar Jun 03 '23 01:06 ziwang-com