CodingAnn

我也遇到了类似的问题，有没有解决办法呀

没有 发自我的iPhone ------------------ 原始邮件 ------------------ 发件人: Authen223 ***@***.***> 发送时间: 2023年6月10日 13:17 收件人: HCIILAB/SCUT-EPT_Dataset_Release ***@***.***> 抄送: CodingAnn ***@***.***>, Mention ***@***.***> 主题: Re: [HCIILAB/SCUT-EPT_Dataset_Release] 邮件没有回复 (Issue #3) ***@***.*** — Reply to this...

加载模型了： 

好的我试试！谢谢

> pip install git+https://github.com/shibing624/lmft.git 安装开发中的版本，新功能还没release 到pip 用这种方法安装推理报错：  调用脚本： 

> > > pip install git+https://github.com/shibing624/lmft.git 安装开发中的版本，新功能还没release 到pip > > > > > > 用这种方法安装推理报错：  调用脚本：  > > 我在服务器测试时，也出现了这个错误，是有不兼容吗？ @shibing624 chatglm-6b在4月6号似乎稍微更新了他们的模型， > > ``` > 移除embedding中的image token以减小显存占用（需要更新模型文件pytorch_model-00001-of-00008.bin和pytorch_model-00008-of-00008.bin，感谢 [@silverriver](https://github.com/silverriver)...

> chatglm-6b 用最新的权重，我本地测试时 "quantization_bit": None, 没开量化，训练时也没用int8，我的环境是V100不支持int8，看你的结果应该lora还是没有起到作用，lora生效后，输出格式是严格按照 '少先队员应该为老人让座。\n错误字： 输出的。 但这个输出结果和chatglm-6b本身的输出结果也不一样，虽然可能存在抖动问题但是多次调用原模型没有输出这种格式。 感觉lora应该还是生效了