ai499

@1049451037 更新后还是报错 我想使用CPU推理 是不是不支持

@1049451037 项目没有看到有CPU加载模型的说明啊

就是用的transform加载的 from transformers import AutoTokenizer, AutoModel model = AutoModel.from_pretrained("/root/visualglm_6B", trust_remote_code=True).float()

就两行代码

sat可以用cpu加载哈

好的大佬 我试试