MOSS
MOSS copied to clipboard
是否支持M2的MacBook
是否支持M2的MacBook。 如果可以支持,需要什么样的 cpu 和内存配置。 我目前的配置是(12 核中央处理器、38 核图形处理器和 16核神经网络引擎)32GB 统一内存。 目前提示Torch not compiled with CUDA enabled。 感谢。
hi there
现在是执行到这句代码后, model = AutoModelForCausalLM.from_pretrained("fnlp/moss-moon-003-sft", trust_remote_code=True).half().cuda()
提示上面的Torch not compiled with CUDA enabled这条信息。
m2上安装CUDA是否有官方文档,网上找到的大部分都无法配置成功,chatgpt则是直接回复无法支持。
BR Kimi
@naniandetonghua
1, torch nightly build 2, 修改代码,model.to('mps'),不要用cuda
macOS不能直接运行 “目前triton仅支持Linux及WSL,暂不支持Windows及Mac OS,请等待后续更新。” 我正在尝试VMwear Fusion的Linux Ubuntu虚拟机运行出现问题“RuntimeError: Found no NVIDIA driver on your system. Please check that you have an NVIDIA GPU and installed a driver from http://www.nvidia.com/Download/index.aspx” 我电脑时inter芯片的iMac,运行内存32GB,但是他用了42.95GB