Real3DPortrait icon indicating copy to clipboard operation
Real3DPortrait copied to clipboard

关于SyncNet训练的问题

Open IzayaZ opened this issue 11 months ago • 3 comments

你好!请问训练SyncNet真的需要400_0000 steps吗? 我使用您的代码处理了lrs3数据集,直到训练了170000+steps,sync_loss仍在0.4以上,请问这是正常的吗? sync_loss的值降低到多少的时候,才可以进行下一步的训练呢? 非常感谢,期待您的回复。

base_config:

  • egs/egs_bases/syncnet/base.yaml

init_from_ckpt: '' binary_data_dir: data/binary/th1kh task_cls: tasks.os_avatar.audio_lm3d_syncnet.SyncNetTask use_kv_dataset: true num_workers: 8 # 4

syncnet_num_clip_pairs: 8192 max_sentences_per_batch: 1024 max_tokens_per_batch: 20000 sample_min_length: 64 max_updates: 400_0000

IzayaZ avatar Jan 15 '25 11:01 IzayaZ

我使用的CMLR数据集训练的,syncnet的loss最低降到了0.3左右,最后的vae训练的时候,基本20000步左右loss就不再降了,出来的表情系数效果很差。我不知道是不是CMLR数据本身质量就比较差导致的,我还得再试试

Prsaro avatar Feb 06 '25 06:02 Prsaro

我使用的CMLR数据集训练的,syncnet的loss最低降到了0.3左右,最后的vae训练的时候,基本20000步左右loss就不再降了,出来的表情系数效果很差。我不知道是不是CMLR数据本身质量就比较差导致的,我还得再试试

这可咋办呀,硬train嘛,请问您解决了嘛

IzayaZ avatar Feb 20 '25 09:02 IzayaZ

你们环境完全按照那个指示安装的吗?为什么我全部走下来总不兼容 不是这个依赖有问题 就是那个依赖有问题,我看你们都默认把环境配置好了。

Walshyu avatar Mar 18 '25 12:03 Walshyu