Ubuntu + aws GPU无法在onnx_dereverb使用GPU去噪

[pek77]

Python 3.10.9 | packaged by conda-forge | (main, Feb 2 2023, 20:20:04) [GCC 11.3.0] on linux Type "help", "copyright", "credits" or "license" for more information.

import torch print(torch.version) 2.2.0+cu121

nvcc: NVIDIA (R) Cuda compiler driver Copyright (c) 2005-2023 NVIDIA Corporation Built on Mon_Apr__3_17:16:06_PDT_2023 Cuda compilation tools, release 12.1, V12.1.105 Build cuda_12.1.r12.1/compiler.32688072_0

ubuntu 20.04 NVIDIA-SMI 535.104.12 Driver Version: 535.104.12 CUDA Version: 12.2

HP2 、DeEcho-Aggressive都可使用GPU

[pek77]

猜测是因为9874端口的python是从webui.py拉起的，无法与GPU协调？？

在做推理的时候发现inference_webui.py文件如果是从webui.py拉起的则无法使用GPU推理。

直接单独在venv中运行python GPT_SoVITS/inference_webui.py 则可以使用GPU推理

[KamioRinn]

代码里onnx设置就是self.device = cpu

[pek77]

代码里onnx设置就是self.device = cpu

那有可能采用GPU去噪么。。

[werran2]

代码里onnx设置就是self.device = cpu

可以改成GPU么，现在转换一个要一个小时

[KamioRinn]

代码里onnx设置就是self.device = cpu

可以改成GPU么，现在转换一个要一个小时

可以自己修改测试

[RVC-Boss]

那个self.device=cpu是数据处理，不是onnx推理 onnx推理是要看providers那几行，看着你的环境不支持cuda-onnx推理呢

[RVC-Boss]

azureexec 没研究过，你可能得查询下资料，你这个aws的GPU的环境