Tao Chen

我遇到过这个问题。你的模型ABC应该都是同时初始化了吧，放在GPU中，这个时候如果多线程同时推理，老是会遇到不可知的错误，例如，吞字、重复、Prompt进入结果等等混乱的错误。我现在在尝试分割GPU，给每个模型分配独立的显存，看能否解决这个问题。

这边已经尝试解决这个问题，在可以部署多个服务在同一个服务器上，然后每个服务只加载一个音色通过环境变量进行控制即可，可以比较好解决多模型同时推理的问题。

> > 可以在项目路径logs/wzj1/下创建文件：2-name2text-0.txt 后再次尝试一键三连 > > > 请问在点击一键三连时遇到这个错误，FileNotFoundError: [Errno 2] No such file or directory: 'logs/wzj1/2-name2text-0.txt' > > 然后回继续报错找不到2-name2text-1.txt' 我也遇到了同样的问题

> 能否截图控制台，以及下载的包是哪天的  这个是控制台截图，我下载的包是1月23号克隆的

> > 可以在项目路径logs/wzj1/下创建文件：2-name2text-0.txt 后再次尝试一键三连 > > > 请问在点击一键三连时遇到这个错误，FileNotFoundError: [Errno 2] No such file or directory: 'logs/wzj1/2-name2text-0.txt' > > 一键三连的时候，他会删除这个文件 我单点的时候也会报同样的错误

> 我今早也遇到了问题，有人说是显卡问题，仔细看一下发现有显示“没有可用的显卡” 现在解决了 1：安装支持 cuda 的torch、torchvision、torchaudio： pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 > > 2：查看 GPT_SoVits/pretrained_models 下是否有下载好的模型，这是下载完成的：  我是从预打包文件复制过来的 https://huggingface.co/lj1995/GPT-SoVITS-windows-package/resolve/main/GPT-SoVITS-beta.7z?download=true 按照你的方法，我找到了原因，是因为下载的时候 这两个模型文件夹中的文件 config.json 和tokenziner.json 莫名其妙的加了文件夹名字的前缀导致的无法找到，然后我修改一下名称就不再报错了

我这里也遇到了一些问题，将模型导出成onnx模型会出现4个onnx的模型文件  我成功将t2s_encoder的模型转化为TensorRT的模型，也成功推理了 Loading engine from /media/star/8T/PycharmProjects/github/gpt-sovits/onnx.wukong_t2s_encoder.fp32.trt Allocated buffers input for ref_seq: shape=torch.Size([1, 13]), dtype=, size=13 Allocated buffers input for text_seq: shape=torch.Size([1, 24]), dtype=, size=24 Allocated buffers input for ref_bert:...