zhangtian comments

Results 23 comments of


                                            zhangtian

oo,好的，感谢

I solve it, my python is 3.12, transformers==4.51.0, need to update setuptools, as follow: pip install --upgrade setuptools， you can try it.

> 目前 CUDA 不支持加上 --transformerFuse 转换的 LLM 模型，如需使用 cuda 运行 LLM，在转换模型时不要加这项好的，感谢