musetalk的奇怪问题

Open TigerHH6866 opened this issue 1 year ago • 3 comments

在独立的musetalk里realtime推理只用8~10g显存在metahuman里12g的3080Ti爆了是啥原因呢？能否优化呢？毕竟16g的卡不多，24g的忑贵

Jun 20 '24 21:06 TigerHH6866

修改一下批次吧

Jun 21 '24 06:06 ShelikeSnow

同样是12g的3080ti，跑metahuman里的musetalk实时推理显存不够，有什么优化方法吗

Aug 20 '24 07:08 Yukuritto

手上有 3080 ti，测试过设置 batch_size 为 8、4 都不行，dtype设置为 float16 直接报错，要解决报错可能需要升级 pytorch，cuda，就不折腾了，看看有没有其他人有更好的办法

Aug 20 '24 08:08 licon

12g 的 3070super 也是显存不够

Nov 15 '24 07:11 tuoxiebushuijiao

多大显存才够呢？

Jan 06 '25 09:01 JerryDaHeLian