GPT-SoVITS icon indicating copy to clipboard operation
GPT-SoVITS copied to clipboard

优化:fast_inference_分支中TTS实例每次调用不同的weights时重复加载底膜,是否有必要?

Open KevinZhang19870314 opened this issue 9 months ago • 8 comments

每次api调用时候,都会实例化一个tts实例,其中_init_models方法中除了加载weights相关的模型,还重新加载了底膜,在当前的实现中属于重新加载了,如果有切换weights的需求,每次就重复加载了底膜。

基于此:是否可以优化一下TTS实例,在api初始化的时候加载一次底膜,后续就不用加载了?

KevinZhang19870314 avatar May 15 '24 09:05 KevinZhang19870314