PaddleOCR icon indicating copy to clipboard operation
PaddleOCR copied to clipboard

Jetson TX2 NX 使用GPU预测没问题,使用TRT就卡住

Open iFish85 opened this issue 8 months ago • 3 comments

问题描述 / Problem Description

跟这个问题一样:https://github.com/PaddlePaddle/PaddleOCR/issues/12590

使用GPU预测时没有问题 但是在打开TensorRT后运行到I0603 6020 engine.cc:301 Run Paddle-TRT Dynamic Shape mode. 会卡很久。 但是在第一次运行时不存在 trt_det_shap.txt,trt_cls_shap.txt,trt_rec_shao.txt这三个shap文件时就是正常的加载时间,

回复中有人提到 确保配置的动态形状范围合理,请问如何配置?LOG中没有任何动态范围的报错。

运行环境 / Runtime Environment

  • HW: Jetson TX2 NX
  • OS: Ubuntu 18.04
  • Paddle: 2.5
  • PaddleOCR: main
  • CUDA: 10.2.300
  • cuDnn: 8.2.1.32
  • TensorRT: 8.2.1.9

复现代码 / Reproduction Code

./build/ppocr --det_model_dir=inference/det --rec_model_dir=inference/rec
--use_angle_cls=false --det=true --rec=true --cls=false
--image_dir=test_img/1.jpg
--use_gpu=true --gpu_mem=512 --use_tensorrt=true --cpu_threads=4
--det_db_score_mode=fast --precision=fp32
--benchmark=true --limit_side_len=480
--visualize=false --rec_batch_num=10

完整报错 / Complete Error Message

可能解决方案 / Possible solutions

附件 / Appendix

first.log second.log

iFish85 avatar Jul 01 '24 09:07 iFish85