guo-zh

> 模型地址: https://huggingface.co/entity303/lawgpt-lora-7b-v2/tree/main > > 使用方法: python webui.py --load_8bit False --base_model 'minlik/chinese-alpaca-plus-7b-merged' --lora_weights 'entity303/lawgpt-lora-7b-v2' --prompt_template "law_template" --server_name "0.0.0.0" --share_gradio True \ chinese-alpaca-plus-7b-merged 这个是chinese-llama-7b-merged和lawgpt-lora-7b-v2合并模型成的吗

>  我回复和你这个情况一样，不知道该咋解决哈哈

> 您好, 我在本机测试是没有问题的. > 可以详细说明一下您的硬件环境.比如显卡型号和cuda版本等. 可以帮我看看我的问题嘛，实在找不出哪里的原因

 我这更惨，不知道哪的原因

> vi scripts/webui.sh `python webui.py \ --load_8bit True \ --base_model '/root/autodl-tmp/LaWGPT/models/base_models/legal_base-7b' \ --lora_weights '/root/autodl-tmp/LaWGPT/models/lora_weights/lawgpt-lora-7b' \ --prompt_template "law_template" \ --server_name "0.0.0.0" \ --share_gradio True \` > > 解决了嘛

> 没有解决 不知道该怎么搞 我也是 哇 我运行的时候还报一堆警告 加个V GGZH1214 沟通一下

肯定是必要的 假如你压根不知道这个词的存在，你再怎么好的数据也理解不了他的意思，pt出来的也一定不尽如意

> 好吧，不用merge也可以，直接混合模式运行即可。试了主页几个问题答案也接近了，但是还是有重复念经发生，效果比较一般。 > > 下面命令运行： python webui.py --load_8bit False --base_model 'minlik/chinese-alpaca-plus-7b-merged' --lora_weights 'entity303/lawgpt-lora-7b-v2' --prompt_template "law_template" --server_name "0.0.0.0" --share_gradio True \ 为什么这个总会有重复最后一句话的现象呢

请问解决了吗？

> 没有 我现在直接运行webui.py，可以运行，但是输出的要么是乱码，要么是重复回答，webui.py里只修改bash和lora的路径