GPT-SoVITS icon indicating copy to clipboard operation
GPT-SoVITS copied to clipboard

Published 20 hours ago • verified publisher icon RVC-Boss

Mac出现RuntimeError: "slow_conv2d_cpu" not implemented for 'Half'

Open XXXXRT666 opened this issue 1 year ago • 2 comments

原因：由于MacOS Sonoma支持bf16以及fp16，系统返回is_half=True,而CPU推理不支持fp16。#516 解决方法 ：将GPT_SoVITS/inference_webui.py中的is_half = eval(os.environ.get("is_half", "True"))改为 is_half = eval(os.environ.get("is_half", "True")) and not torch.backends.mps.is_available()，并在此句上方加一句import torch #573

XXXXRT666 avatar Feb 23 '24 19:02 XXXXRT666

令：可以通过安装pytorch nightly版本解决，在测试版中pytorch已支持M系列芯片CPU的fp16以及bf16运算

XXXXRT666 avatar Feb 24 '24 02:02 XXXXRT666

令：可以通过安装pytorch nightly版本解决，在测试版中pytorch已支持M系列芯片CPU的fp16以及bf16运算

经测试，CPU半精度推理速度极慢，建议直接改代码

XXXXRT666 avatar Feb 24 '24 15:02 XXXXRT666

已经合并了你的提交https://github.com/RVC-Boss/GPT-SoVITS/pull/573

RVC-Boss avatar Feb 28 '24 10:02 RVC-Boss