TensorRT-Alpha
TensorRT-Alpha copied to clipboard
多线程运行,速度增加
单线程运行时,一张图片4ms,两个线程开启后,每个线程都变成8ms, 这是为什么? 用opencv的GPU版本推断时,2个线程,速度会有轻微增加,但不会直接变成2倍,