PP-OCRv3 GPU下使用trt 后端跑不通

[wgshun]

---

温馨提示：根据社区不完全统计，按照模板提问，可以加快回复和解决问题的速度

---

环境

• 【FastDeploy版本】： fastdeploy-gpu-python 1.0.7
• 【编译命令】pip install numpy opencv-python fastdeploy-gpu-python -f https://www.paddlepaddle.org.cn/whl/fastdeploy.html
• 【系统平台】: WSL2 Linux x64(Ubuntu 18.04)
• 【硬件】： Nvidia GPU 3050， CUDA 11.2 CUDNN 8.2（使用conda安装）
• 【编译语言】： Python(3.7）

问题日志及出现问题的操作流程

• 【PP-OCRv3 GPU下使用trt 后端跑不通】
• • 执行examples下的部署示例，默认的GPU版本可以运行
• • 修改backend为trt后（已经加上保存 TRT cache 文件的函数），运行示例代码直接卡在下面，也没有任何报错信息：
• • [INFO] fastdeploy/runtime/backends/tensorrt/trt_backend.cc(556)::BuildTrtEngine Start to building TensorRT Engine...
• • 经过几个小时依旧是这样
• • tensorrt版本8.4.1.5 和 8.5.2.2 都尝试了，tensorrt安装方式按照官网的guide，安装的 tar 文件

[EasyIsAllYouNeed]

开启trt cache

[wgshun]

@EasyIsAllYouNeed 你好！你说的开启trt cache是保存 TRT cache 文件那个吗？

[EasyIsAllYouNeed]

嗯

[wgshun]

加了的

---- 回复的原邮件 ---- | 发件人 | @.> | | 日期 | 2023年07月27日 16:06 | | 收件人 | @.> | | 抄送至 | @.>@.> | | 主题 | Re: [PaddlePaddle/FastDeploy] PP-OCRv3 GPU下使用trt 后端跑不通 (Issue #2135) |

嗯

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: @.***>

[Hold-on-li]

加了的 … ---- 回复的原邮件 ---- | 发件人 | @.> | | 日期 | 2023年07月27日 16:06 | | 收件人 | @.> | | 抄送至 | @.>@.> | | 主题 | Re: [PaddlePaddle/FastDeploy] PP-OCRv3 GPU下使用trt 后端跑不通 (Issue #2135) | 嗯 — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: @.***>

您好，请问这个问题解决的了吗？我这边也是无法加载TensorRT