maxxxxyang

 不好意思请问下 我用4张32G v100并行 但程序只用到了其中1张卡，导致内存不足，如何能够多卡并行推理呢 这是我的命令 CUDA_VISIBLE_DEVICES=0,1,2,3 torchrun --standalone --nproc_per_node 1 scripts/inference.py configs/opensora/inference/64x512x512.py --ckpt-path ./OpenSora-v1-HQ-16x512x512.pth