怎么实现同多进程并发启动数字人？

[hmjjj]

怎么实现启动多个进程，同时推理多个数字人，但是显卡内存不会占用太多，比如在4090上能否同时跑10个数字人呢

[lin-jj-engine]

我也想知道

[lin-jj-engine]

--max_session耗费显存太高了，32G只能跑3个

[lipku]

要实现只加载一份模型，多个会话都用这个模型来做推理

[hmjjj]

试过了哈哈哈，其实就算加载一份模型，在musetalk部分，也是会生成音频特征器占用显存

[hmjjj]

--max_session耗费显存太高了，32G只能跑3个

但是你这太离谱了，32g按理能跑这个数翻倍

[licon]

--max_session耗费显存太高了，32G只能跑3个

但是你这太离谱了，32g按理能跑这个数翻倍

你是什么型号的 GPU，平均一个实例还占不到 10G？

[lipku]

试过了哈哈哈，其实就算加载一份模型，在musetalk部分，也是会生成音频特征器占用显存

音频特征模型也只加载一份。 另外音频特征模型占用显存应该不大。这部分代码可以分享一下吗，我还没调试成功

[hmjjj]

试过了哈哈哈，其实就算加载一份模型，在musetalk部分，也是会生成音频特征器占用显存

音频特征模型也只加载一份。 另外音频特征模型占用显存应该不大。这部分代码可以分享一下吗，我还没调试成功

那我整理一下代码然后分享

[lin-jj-engine]

试过了哈哈哈，其实就算加载一份模型，在musetalk部分，也是会生成音频特征器占用显存

音频特征模型也只加载一份。 另外音频特征模型占用显存应该不大。这部分代码可以分享一下吗，我还没调试成功

那我整理一下代码然后分享

Nice，分享到哪里看

[xing-xing448]

怎么实现启动多个进程，同时推理多个数字人，但是显卡内存不会占用太多，比如在4090上能否同时跑10个数字人呢

把数字人单独做成一个服务就好了

[xlc-github]

要实现只加载一份模型，多个会话都用这个模型来做推理

这样做能实现同时聊天画面和音频不会出现卡顿么，我目前卡在这里，多个会话同时聊天的时候，发现音频画面会出现卡顿

[lipku]

musetalk太耗gpu了，用wav2lip可以