LaWGPT
LaWGPT copied to clipboard
合并文档中的最后一步 merge.sh 缺失
在第三步:
3. 运行合并脚本
最后,合并原版 Chinese-LLaMA-7B 模型权重和二次训练到的 legal-lora-7b 权重:
sh scripts/merge.sh
generate.sh 是merge.sh这个文件吗?
这个merge.sh 生成的是Legal-Base-7B模型吗?后续是如何生成 LaWGPT-7B-beta1.0?
+1
目前有Legal-Base-7B的Lora模型,还少一个 LaWGPT-7B-beta1.0 的lora 模型
你看 merge 代码,里面写的就是 legal 没有 lawgpt
import argparse parser = argparse.ArgumentParser(description='Merge Base Model and Lora') parser.add_argument('--base_model', type=str, default="minlik/chinese-llama-7b-merged", help='base model path') parser.add_argument('--lora_model', type=str, default="entity303/legal-lora-7b", help='lora model path') parser.add_argument('--output_dir', type=str, default="./models/base_models/llama-7b-legal-lora-merged", help='output model path')