ChatGLM-Finetuning RuntimeError: Error building extension 'fused

RuntimeError: Error building extension 'fused_adam'

Open LeFuGang opened this issue 1 year ago • 5 comments

deepspeed==0.12.6 pytorch==1.13.0+cu116 cuda版本11.0 用的模型是glm3，单卡的

请问这个问题怎么处理呀，能帮忙解决下吧，谢谢了

Dec 27 '23 06:12 LeFuGang

应该是cuda版本的问题，你要升级到11.6

Jan 07 '24 09:01 liucongg

应该是cuda版本的问题，你要升级到11.6

我CUDA 12.0也是这个问题

Mar 14 '24 13:03 chenchen333-dev

应该是cuda版本的问题，你要升级到11.6

我CUDA 12.0也是这个问题

cuda12.2也是这个问题

Sep 13 '24 07:09 nothing7744

我配置了和和作者完全相同的环境，除了deepspeed的。我使用cuda12.2驱动，同时deepspeed==0.12.2.（我无法成功下载0.11.1）但是依然出现了这个bug

Sep 14 '24 07:09 nothing7744

I solved the problem by doing the following： I enter the "ds_report" command in the terminal.Getting the content about fuse_adam as

fused_adam ............. [NO] ...... [OKAY] then i do

git clone https://github.com/microsoft/DeepSpeed.git
cd DeepSpeed
DS_BUILD_FUSED_ADAM=1 pip3 install .

use "ds_report"get

fused_adam ............. [YES] ...... [OKAY]

Sep 19 '24 02:09 nothing7744