sing

1.运行run.sh，生成moss-moon-003-sft-int4下面的文件，包含： - 1 - latest - zero_to_fp32.py 2.运行zero_to_fp32.py 生成新文件到output_file路径下面（新模型） 3.加载新模型demo，正常。 4.对话输出，任何问题的答案都变成了感叹号，： “!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!” 这是什么原因，有哪位大佬帮助解决一下，谢谢。 

训练后加载模型好像没有效果，这是什么情况？

5

训练后加载模型，发现问答不生效，不是训练的内容，感觉好像还是原来模型的回答，LoRa不起作用了。 以下是加载模型的部分代码： ``` device = torch.device("cuda:0") if torch.cuda.is_available() else torch.device("cpu") model = AutoModel.from_pretrained("models/chatglm-6b", trust_remote_code=True, load_in_8bit=True, device_map='auto', revision="") tokenizer = AutoTokenizer.from_pretrained("models/chatglm-6b", trust_remote_code=True, revision="") model = PeftModel.from_pretrained(model, "/home/glm/ChatGLM-Tuning/output") ```