PaddleDetection
PaddleDetection copied to clipboard
onnx trt测速问题
问题确认 Search before asking
- [X] 我已经搜索过问题,但是没有找到解答。I have searched the question and found no related answer.
请提出你的问题 Please ask your question
请问说明文档里ppyoloe-s的trt-fp16的耗时是2.9ms,是什么样的环境测试出来的。 我自己按照流程,使用onnx trt测速,测试了很多次,出来的耗时都是3.4ms
trtexec --onnx=onnxfiles/convert/ppyoloe_crn_s_300e_coco.onnx --saveEngine=onnxfiles/convert/ppyoloe_s_bs1.engine --workspace=4096 --avgRuns=1000 --shapes=image:1x3x640x640,scale_factor:1x2 --fp16
我自己本地的环境配置: GPU:T4 CUDA:11.2 CuDNN:8.2.0 paddle:2.3.2 TensorRT:8.0.3.4
Can anyone help me??????
你的onnx包括后处理了嘛