huang

Results 3 comments of


                                            huang

推荐使用 AutoGPTQ 或 AutoGPTQ-triton 进行模型量化和推理

我在pip里无法安装triton，麻烦您看一下如何安装这个依赖系统是EulerOS 2.0 (SP8), CANN-6.0.1

推荐使用 AutoGPTQ 或 AutoGPTQ-triton 进行模型量化和推理

> > 我在pip里无法安装triton，麻烦您看一下如何安装这个依赖系统是EulerOS 2.0 (SP8), CANN-6.0.1 > > 你好，请问有详细的报错信息吗？ Looking in indexes: http://100.125.0.87:32021/repository/pypi/simple, https://pypi.ngc.nvidia.com/ ERROR: Could not find a version that satisfies the requirement triton (from versions: none) ERROR:...

推荐使用 AutoGPTQ 或 AutoGPTQ-triton 进行模型量化和推理

> > > > 我在pip里无法安装triton，麻烦您看一下如何安装这个依赖系统是EulerOS 2.0 (SP8), CANN-6.0.1 > > > > > > > > > 你好，请问有详细的报错信息吗？ > > > > > > Looking in indexes: http://100.125.0.87:32021/repository/pypi/simple, https://pypi.ngc.nvidia.com/...