yolov8s.trt 为和视频推理耗时比推理图片耗时要低

Open jiamfeng opened this issue 1 year ago • 3 comments

我在3090上面测试了yolov8s.trt，图片是从视频上面解析后保存的，为什么推理图片的耗时（batch_size=1）比推理视频（batch_size=4）的耗时要高。前者是3.2ms; 后者是2.8ms

Jan 18 '24 10:01 jiamfeng

@jiamfeng 是正常的，例如batch_size=4，推理四张图，平均每帧耗时为11.2ms/4=2.8ms

Jan 18 '24 10:01 FeiYull

@jiamfeng GPU需要warmup，第一帧推理慢正常

Jan 18 '24 11:01 FeiYull

@jiamfeng GPU需要warmup，第一帧推理慢正常

嗯嗯，对的，我没注意到耗时平均到每一帧了

Jan 18 '24 11:01 jiamfeng