完善多并发，显存不随并发数增加。这样调整后，是不是对cpu的要求很高，因为设置多个连接数后，视频流就会很卡，达不到每秒25以上，语音就会很不流畅

Open chentiejin1 opened this issue 1 year ago • 4 comments

Dec 24 '24 00:12 chentiejin1

不连接这么多就不影响

Dec 24 '24 05:12 lipku

不连接这么多就不影响

有测试数据吗，例如什么GPU 和 CPU 配置下，开启多少个并发同时连接的效果还比较好的

Dec 26 '24 08:12 licon

推理的还是吃GPU的。可以考虑启动多个，挂一个nginx做负载。

Dec 27 '24 08:12 SSSh1wein4n

瓶颈在于：nerfreals在同一个进程里面执行，python有PIL

May 07 '25 04:05 huangyangke