InternVL icon indicating copy to clipboard operation
InternVL copied to clipboard
Published 3 months ago • verified publisher icon OpenGVLab

请问有在 V100-32G 的GPU上进行测试的finetune的脚本吗？

Open Qinger27 opened this issue 1 year ago • 1 comments

V100 不支持 flash-attn，想问下有没有不通过 flash-attn的脚本呢？以及用 internvl-v1.5 进行测试时，使用8卡还是报错 OOM的问题，请问怎么解决？迫切期待您的回复～

Qinger27 avatar May 06 '24 11:05 Qinger27

您好，V100可以参考这个回答：https://github.com/OpenGVLab/InternVL/issues/144

czczup avatar May 08 '24 17:05 czczup