LaWGPT icon indicating copy to clipboard operation
LaWGPT copied to clipboard

合并文档中的最后一步 merge.sh 缺失

Open qraccess opened this issue 1 year ago • 4 comments

在第三步:

3. 运行合并脚本
最后,合并原版 Chinese-LLaMA-7B 模型权重和二次训练到的 legal-lora-7b 权重:

sh scripts/merge.sh

generate.sh 是merge.sh这个文件吗?

qraccess avatar May 17 '23 10:05 qraccess

这个merge.sh 生成的是Legal-Base-7B模型吗?后续是如何生成 LaWGPT-7B-beta1.0?

qraccess avatar May 17 '23 12:05 qraccess

+1

jcyao avatar May 18 '23 09:05 jcyao

目前有Legal-Base-7B的Lora模型,还少一个 LaWGPT-7B-beta1.0 的lora 模型

qraccess avatar May 18 '23 15:05 qraccess

你看 merge 代码,里面写的就是 legal 没有 lawgpt

import argparse parser = argparse.ArgumentParser(description='Merge Base Model and Lora') parser.add_argument('--base_model', type=str, default="minlik/chinese-llama-7b-merged", help='base model path') parser.add_argument('--lora_model', type=str, default="entity303/legal-lora-7b", help='lora model path') parser.add_argument('--output_dir', type=str, default="./models/base_models/llama-7b-legal-lora-merged", help='output model path')

pangzheng avatar Jul 14 '23 08:07 pangzheng