MuseTalk icon indicating copy to clipboard operation
MuseTalk copied to clipboard

视频中人物的嘴不停抖动

Open sswbbd1209 opened this issue 1 year ago • 8 comments

请教下,直接用模型推理和经过单视频微调后,生成的视频中人物的嘴不停抖动。这个主要是什么原因,和没有进行帧间时间序列建模有关系吗?syncnet_T这个参数可以改大吗?

sswbbd1209 avatar Sep 04 '24 07:09 sswbbd1209

我们也遇到了同样的问题,这个怎么解决呢

zhangyuzyy avatar Sep 06 '24 02:09 zhangyuzyy

我们也遇到了高频抖动的问题,在一些情况下很严重,请问怎么解决

GUNDAM1638 avatar Sep 06 '24 02:09 GUNDAM1638

请教下,直接用模型推理和经过单视频微调后,生成的视频中人物的嘴不停抖动。这个主要是什么原因,和没有进行帧间时间序列建模有关系吗?syncnet_T这个参数可以改大吗?

musetalk应该没有用到syncnet

Tinyyuumi avatar Sep 06 '24 06:09 Tinyyuumi

是的,不知道该如何解决,希望可以解答一下,谢谢

yyc25 avatar Sep 06 '24 06:09 yyc25

在训练集中已经增加了沉默时闭嘴的数据进行训练,但还是没有改善,有什么解决方案吗

zhangyuzyy avatar Sep 19 '24 01:09 zhangyuzyy

这个问题很严重,请尽快处理

alexhmyang avatar Nov 05 '24 14:11 alexhmyang

目前release的模型没有用sync loss, 所以没有时序信息被用到。 加了sync loss之后该问题可以被缓解。

aidenyzhang avatar Nov 15 '24 06:11 aidenyzhang

嘴抖动太厉害了

xiaomaofei avatar Dec 02 '24 01:12 xiaomaofei