Princess Snow
Princess Snow
> 同样的错误，强制更新pytorch版本后，我成功了 > > > pip3 install --pre --force-reinstall torch --index-url https://download.pytorch.org/whl/nightly/cpu > > 我尝试了更新pytorch 也和楼主一样根据[https://github.com/THUDM/ChatGLM-6B/issues/152](url)修改过代码，虽然运行起了界面，但是我还是报错了，我不清楚我现在具体哪里出了问题 
> half() 改成 float() 如果我使用float的话我会存在内存不足的情况，我看他说是可以在我mac上使用gpu加速这样只需要用到4G左右，我系统是最新的 16G m1 pro 的mac本，但是我目前不确定是不是我运行的时候报的警告这里是不是有相关的影响 
> 我是mac m2 pro，mps 加速能加载，但是提问之后没有任何回复 能请问一下你是如何做到的嘛？用的是那个模型？
> m1 32g内存运行：git git代码代码和非量化模型模型 （ ）了代码、装了pytorch跑mps总是里面存不足。 今天用下面命令更新了一下就可以正常跑了，供参考： pip3 install -U --pre torchvision torchaudio --extra-index-url [https:// download.pytorch.org/whl/nightly/cpu](https://download.pytorch.org/whl/nightly/cpu) BTW：建议使用Python Virtualenv创建虚拟环境来“玩” 我不太清楚如果我用虚拟环境，我16G能否运行的起来，回头我去尝试一下试试
> > pip3 install --pre --force-reinstall torch --index-url https://download.pytorch.org/whl/nightly/cpu > > 我是M1Pro和你一模一样，提问之后等半天无任何回复 获取你可以考虑一下重新下载一下最新的那个无量化模型，好像优化过了，今晚我在试试看能否运行起来
> > pip3 install --pre --force-reinstall torch --index-url https://download.pytorch.org/whl/nightly/cpu > > 我是M1Pro和你一模一样，提问之后等半天无任何回复 今晚我确实可以运行了 但是回复非常的久...日常使用感觉都很有问题...
> > 我也刚遇到，其实文档里面有说要用pytorch nightly版本，不能用默认的2.0.0版本，按照楼上的安装pytorch nightly就好了 根据 ronething 的方案去安装 pytorch nightly版本 是可以运行，但是目前看起来16G想正常使用还是太难了
> > see the CPU部署 of readme > > `.cuda()`更换为了`.to('mps')`，并且按照apple官网上的文档用`pip3 install --pre torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/nightly/cpu`安装了PyTorch-Nightly，能给进入到用户输入环节，但是等待响应的时候报错： > > ``` > loc("varianceEps"("(mpsFileLoc): /AppleInternal/Library/BuildRoots/97f6331a-ba75-11ed-a4bc-863efbbaf80d/Library/Caches/com.apple.xbs/Sources/MetalPerformanceShadersGraph/mpsgraph/MetalPerformanceShadersGraph/Core/Files/MPSGraphUtilities.mm":228:0)): error: input types 'tensor' and 'tensor' are...
> > > > > see the CPU部署 of readme > > > > > > > > > `.cuda()`更换为了`.to('mps')`，并且按照apple官网上的文档用`pip3 install --pre torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/nightly/cpu`安装了PyTorch-Nightly，能给进入到用户输入环节，但是等待响应的时候报错： > > >...