InternLM-XComposer icon indicating copy to clipboard operation
InternLM-XComposer copied to clipboard

Published 20 hours ago • verified publisher icon InternLM

多张gpu没法加载

Open cdqncn opened this issue 1 year ago • 5 comments

我在运行python web_demo.py --num_gpus 4的时候，执行到第49行代码的时候就报错cuda out of memory退出程序，执行不了后续代码。nvidia-smi监测显示只在第一张显卡上有效，其他显卡都没用上。

image image

这种情况怎么处理呢

cdqncn avatar Nov 25 '23 07:11 cdqncn