LiveTalking icon indicating copy to clipboard operation
LiveTalking copied to clipboard

并发问题求助

Open xlc-github opened this issue 3 months ago • 7 comments

目前一张4090卡,我同时打开多个网页后(5个),不同的sessionid,请求同一个数字人,我想实现的是这个5个页面中数字人同时说话的时候画面不卡顿,音频不卡顿,能做到么,如何提升并发量,发现打开3个还勉强可以,超过3个就发现画面卡顿,音频不正常。优化哪里可以提升并发量,我的显卡资源应该是够的,服务器cpu资源也够,但是发现支持的并发量好小

xlc-github avatar Sep 26 '25 07:09 xlc-github

Hello, how can you solve it?

jesulo avatar Oct 04 '25 15:10 jesulo

需要优化wenrtc threading.Thread 创建逻辑 将模型创建多份 与用户会话隔离开

ShelikeSnow avatar Oct 14 '25 03:10 ShelikeSnow

请问一下,我这边打开多个网页,然后使用不同的数字人形象,说话的时候人脸会互相变,您有遇到么?

DrinkIceCoke avatar Oct 16 '25 10:10 DrinkIceCoke

Hello, how can you solve it?

Consider transmitting the facial video from the backend to the frontend, then performing alignment on the frontend to reduce bandwidth usage.

xlc-github avatar Oct 17 '25 07:10 xlc-github

请问一下,我这边打开多个网页,然后使用不同的数字人形象,说话的时候人脸会互相变,您有遇到么?

你用的是哪种数字人,多个网页请求的是同个数字人么

xlc-github avatar Oct 17 '25 07:10 xlc-github

谢谢您,这边解决了,我使用的模型是wav2lip+自己部署的cosyvoice2.0,多个网页请求不同的数字人,大概解决思路原先avartar是一个全局共享变量,现在每个session启动或者切换数字人形象的时候都会独立加载,然后一些推理线程等也是自己加载,ai是这么解决的。

DrinkIceCoke avatar Oct 17 '25 08:10 DrinkIceCoke

谢谢您,这边解决了,我使用的模型是wav2lip+自己部署的cosyvoice2.0,多个网页请求不同的数字人,大概解决思路原先avartar是一个全局共享变量,现在每个session启动或者切换数字人形象的时候都会独立加载,然后一些推理线程等也是自己加载,ai是这么解决的。

請問現在一次可以推幾路呢

XinBow99 avatar Nov 11 '25 09:11 XinBow99