TtZJ

**+1，我也是这个问题：2张T4卡运行** sudo bash ./run.sh -c local -i 0,1 -b hf -m Qwen-7B-QAnything -t qwen-7b-qanything **日志：** qanything-container-local | qanything-container-local | ============================= qanything-container-local | == Triton Inference Server == qanything-container-local | =============================...

请问Qanything什么时候可以支持3张、4张显卡并行，这才是多GPU

> 多gpu的情况下为什么只检测第二张显卡的显存，而不是总共的显存呢？我用的tesla t4，检测的显存是15360MiB，提示我不能跑7B模型，但是我有两张呀 我也是一样的情况，T4显卡，两张，说显存不够，可是它没有跑第二张显卡