并发问题求助
目前一张4090卡,我同时打开多个网页后(5个),不同的sessionid,请求同一个数字人,我想实现的是这个5个页面中数字人同时说话的时候画面不卡顿,音频不卡顿,能做到么,如何提升并发量,发现打开3个还勉强可以,超过3个就发现画面卡顿,音频不正常。优化哪里可以提升并发量,我的显卡资源应该是够的,服务器cpu资源也够,但是发现支持的并发量好小
Hello, how can you solve it?
需要优化wenrtc threading.Thread 创建逻辑 将模型创建多份 与用户会话隔离开
请问一下,我这边打开多个网页,然后使用不同的数字人形象,说话的时候人脸会互相变,您有遇到么?
Hello, how can you solve it?
Consider transmitting the facial video from the backend to the frontend, then performing alignment on the frontend to reduce bandwidth usage.
请问一下,我这边打开多个网页,然后使用不同的数字人形象,说话的时候人脸会互相变,您有遇到么?
你用的是哪种数字人,多个网页请求的是同个数字人么
谢谢您,这边解决了,我使用的模型是wav2lip+自己部署的cosyvoice2.0,多个网页请求不同的数字人,大概解决思路原先avartar是一个全局共享变量,现在每个session启动或者切换数字人形象的时候都会独立加载,然后一些推理线程等也是自己加载,ai是这么解决的。
谢谢您,这边解决了,我使用的模型是wav2lip+自己部署的cosyvoice2.0,多个网页请求不同的数字人,大概解决思路原先avartar是一个全局共享变量,现在每个session启动或者切换数字人形象的时候都会独立加载,然后一些推理线程等也是自己加载,ai是这么解决的。
請問現在一次可以推幾路呢