奔腾年代-Jiaozn

[BUG/Help] int4-cpu本地执行失败

4

### Is there an existing issue for this? - [X] I have searched the existing issues ### Current Behavior 我注意到昨天提的类似[issue ](https://github.com/THUDM/ChatGLM-6B/issues/564). 很遗憾，题主还没有更新回去实验的结果。 **int4模型、cpu直接加载时报错** 这一行报错：model = AutoModel.from_pretrained(model_name, trust_remote_code=True).float() 详细报错信息如下 Explicitly passing...

主页Readme中、实际未看到速度对比数据

2

在主页Readme中，有以下内容： _**下面是在不同硬件配置条件下的资源消耗与速度对比。**可以发现，JittorLLMs在显存充足的情况下，性能优于同类框架，而显存不足甚至没有显卡，JittorLLMs都能以一定速度运行。_ 但实际未看到对比数据：还是想参考一下的