PaddleOCR
PaddleOCR copied to clipboard
Jetson TX2 NX 使用GPU预测没问题,使用TRT就卡住
问题描述 / Problem Description
跟这个问题一样:https://github.com/PaddlePaddle/PaddleOCR/issues/12590
使用GPU预测时没有问题 但是在打开TensorRT后运行到I0603 6020 engine.cc:301 Run Paddle-TRT Dynamic Shape mode. 会卡很久。 但是在第一次运行时不存在 trt_det_shap.txt,trt_cls_shap.txt,trt_rec_shao.txt这三个shap文件时就是正常的加载时间,
回复中有人提到 确保配置的动态形状范围合理,请问如何配置?LOG中没有任何动态范围的报错。
运行环境 / Runtime Environment
- HW: Jetson TX2 NX
- OS: Ubuntu 18.04
- Paddle: 2.5
- PaddleOCR: main
- CUDA: 10.2.300
- cuDnn: 8.2.1.32
- TensorRT: 8.2.1.9
复现代码 / Reproduction Code
./build/ppocr --det_model_dir=inference/det --rec_model_dir=inference/rec
--use_angle_cls=false --det=true --rec=true --cls=false
--image_dir=test_img/1.jpg
--use_gpu=true --gpu_mem=512 --use_tensorrt=true --cpu_threads=4
--det_db_score_mode=fast --precision=fp32
--benchmark=true --limit_side_len=480
--visualize=false --rec_batch_num=10