Joanie Reynolds

+1 for negative prompts

我是8g显存的m1，装了nightly，但还是会内存不足。mbp好像用量化那些模型会提示调用cuda报错， 不知道咋整呢

这个是我在m1尝试调用 in4-qe模型的报错，我调用的代码是 `model = AutoModel.from_pretrained("/Users/jacob/Documents/ChatGLM-6B-main/model 2", trust_remote_code=True).half().to('mps')`