用独立进程做推理会把显存都耗完

[lipku]

现在想用一个独立进程提供musetalk推理服务，会把显卡24G显存都耗完。 如果不用独立进程，只占用显存12G。 这里面是因为有流水线处理吗，怎么改减小显存占用。

[GaoLeiA]

我加了个打印 def inference(self, audio_path, out_vid_name, fps, skip_save_images): os.makedirs(self.avatar_path + '/tmp', exist_ok=True) print("start inference") print(torch.is_grad_enabled())

确实为True，修改后内存大大减少，占用显存12G以下，跟LiveTalk相符。