webui运行成功但是输出是乱码

[distort5871]

参数没修改过，用的是默认的参数。 输入是：酒驾撞人要判多久 结果如图

安装过程参考的readme文件，请问是否遇到过相同的问题，可能是哪里的问题，怎么排查呢，非常感谢~

[herobrine19]

您好, 我在本机测试是没有问题的.

可以详细说明一下您的硬件环境.比如显卡型号和cuda版本等.

[thewintersun]

[guo-zh]

我回复和你这个情况一样，不知道该咋解决哈哈

[guo-zh]

您好, 我在本机测试是没有问题的. 可以详细说明一下您的硬件环境.比如显卡型号和cuda版本等.

可以帮我看看我的问题嘛，实在找不出哪里的原因

[pangzheng]

[soultrans]

@pangzheng 请问，你用的是使用Chinese-LLaMA-7B + legal-lora-7b 合并后的Legal-Base-7B嘛？我再进行合并后，同样的问题，回答结果是这样的

[soultrans]

@pengxiao-song 大佬，请问在参照合并方式合并得到Chinese-LLaMA-7B，以及hf下载得到 legal-lora-7b ，进行基础模型以及lora模型加载后，预测给出的答案是这样的，是哪里操作有问题嘛？

我的步骤是： 1.将原版LLaMA模型转换为HF格式 2.合并LoRA权重，生成全量模型权重 3.加载上述两步生成的模型（Chinese-LLaMA-7B）+ legal-lora-7b，分别作为base_model、lora_weights的传参

请问是哪里有问题嘛？感谢指导！