PaddleDetection icon indicating copy to clipboard operation
PaddleDetection copied to clipboard

onnx trt测速问题

Open laonazzzzz opened this issue 2 years ago • 1 comments

问题确认 Search before asking

  • [X] 我已经搜索过问题,但是没有找到解答。I have searched the question and found no related answer.

请提出你的问题 Please ask your question

请问说明文档里ppyoloe-s的trt-fp16的耗时是2.9ms,是什么样的环境测试出来的。 我自己按照流程,使用onnx trt测速,测试了很多次,出来的耗时都是3.4ms

trtexec --onnx=onnxfiles/convert/ppyoloe_crn_s_300e_coco.onnx --saveEngine=onnxfiles/convert/ppyoloe_s_bs1.engine --workspace=4096 --avgRuns=1000 --shapes=image:1x3x640x640,scale_factor:1x2 --fp16

我自己本地的环境配置: GPU:T4 CUDA:11.2 CuDNN:8.2.0 paddle:2.3.2 TensorRT:8.0.3.4

laonazzzzz avatar Aug 03 '23 05:08 laonazzzzz

Can anyone help me??????

laonazzzzz avatar Aug 04 '23 07:08 laonazzzzz

你的onnx包括后处理了嘛

lyuwenyu avatar Mar 04 '24 08:03 lyuwenyu