MOSS icon indicating copy to clipboard operation
MOSS copied to clipboard

是否支持M2的MacBook

Open naniandetonghua opened this issue 1 year ago • 3 comments

是否支持M2的MacBook。 如果可以支持,需要什么样的 cpu 和内存配置。 我目前的配置是(12 核中央处理器、38 核图形处理器和 16核神经网络引擎)32GB 统一内存。 目前提示Torch not compiled with CUDA enabled。 感谢。

naniandetonghua avatar Apr 27 '23 06:04 naniandetonghua

hi there

现在是执行到这句代码后, model = AutoModelForCausalLM.from_pretrained("fnlp/moss-moon-003-sft", trust_remote_code=True).half().cuda()

提示上面的Torch not compiled with CUDA enabled这条信息。

m2上安装CUDA是否有官方文档,网上找到的大部分都无法配置成功,chatgpt则是直接回复无法支持。

BR Kimi

quzhixue-Kimi avatar Apr 27 '23 06:04 quzhixue-Kimi

@naniandetonghua

1, torch nightly build 2, 修改代码,model.to('mps'),不要用cuda

yhyu13 avatar Apr 28 '23 04:04 yhyu13

macOS不能直接运行 “目前triton仅支持Linux及WSL,暂不支持Windows及Mac OS,请等待后续更新。” 我正在尝试VMwear Fusion的Linux Ubuntu虚拟机运行出现问题“RuntimeError: Found no NVIDIA driver on your system. Please check that you have an NVIDIA GPU and installed a driver from http://www.nvidia.com/Download/index.aspx” 我电脑时inter芯片的iMac,运行内存32GB,但是他用了42.95GB

PangXitong avatar Apr 30 '23 00:04 PangXitong