benbenxj

Results 2 issues of benbenxj

多张显卡的时候如何并行推理呢? 现在默认只能单卡运行 设置了os.environ["CUDA_VISIBLE_DEVICES"] = "1,2,3"的时候也只会在第一张卡上跑

目前只知道(笑) 是否有其他支持的标记可以列举测试下?