zhongjy2020

infer.py测试阶段GPU使用率可以达到90%以上；但是，使用predict.py进行线上压测时，并发量很小，GPU使用率只有20~30%。请问，这是什么原因导致的呢？