Enid Abbott

编译PaddleX TensorRT加速部署方案 在qt中使用dll错误

2

编译paddlex，想使用TesnsorRT加速，仿照 model_infer.cpp 改写 tensorrt_infer.cpp 编译生成 tensorrt_infer.dll，在qt demo中调用时出错。（参考 “基于PaddleInference的推理-Windows环境编译” 的流程） 错误如下： 

### 问题确认 Search before asking - [X] 我已经搜索过问题，但是没有找到解答。I have searched the question and found no related answer. ### 请提出你的问题 Please ask your question 在qt中使用多线程时，第一次开启线程推理可以正常执行，第二次开启线程会出现下面的错误。而在使用GPU推理时则完全没有问题 

推理模型时 无法分配请求的GPU内存量

1

### 问题确认 Search before asking - [X] 我已经搜索过问题，但是没有找到解答。I have searched the question and found no related answer. ### 请提出你的问题 Please ask your question 版本：CUDA11.2/cuDNN8.2/TensorRT8.0 使用的对应版本的 inference 库 在使用TesnorRT推理模型时，出现了下列错误 我已经通过 EnableUseGpu(1000,0)，...

用TensorRT加速OCR的rec模型推理时报错

10

我参照paddleOCR的deploy下的cpp_infer推理代码，在使用TensorRT来加速ch_PP-OCRv3_rec模型时出现了一个错误 错误信息如下： InvalidArgumentError: TRT runtime input shape of x is invalid. Expect runtime input shape to be within min/max input shape configured in SetTRTDynamicShapeInfo(),but got runtime input shape = [6,...

PicoDet 无法使用 TensorRT 加速吗?

2

### 问题确认 Search before asking - [X] 我已经搜索过问题，但是没有找到解答。I have searched the question and found no related answer. ### 请提出你的问题 Please ask your question PicoDet 用 TensorRT 加速之后推理的结果框都不正确.

### 问题确认 Search before asking - [X] 我已经搜索过问题，但是没有找到解答。I have searched the question and found no related answer. ### 请提出你的问题 Please ask your question 在使用 deploy 下的部署代码推理 Pico 结构的模型时,下图 object_detector.cc 中的...

Paddle2ONNX 转换成功后支持将模型转为 TRT 格式吗？

5

**问题描述** 使用paddle2onnx 将maskrcnn的模型转为onnx后，利用tensorrt将onnx格式的模型转位trt时出现了下列错误 [04/04/2023-15:48:09] [E] [TRT] ModelImporter.cpp:773: While parsing node number 498 [Reshape -> "Reshape_0"]: [04/04/2023-15:48:09] [E] [TRT] ModelImporter.cpp:774: --- Begin node --- [04/04/2023-15:48:09] [E] [TRT] ModelImporter.cpp:775: input: "conv2d_53.b_0" input:...

编译失败

1

********************************************* 温馨提示：根据社区不完全统计，按照模板提问，可以加快回复和解决问题的速度 ********************************************* ## 环境 - 【FastDeploy版本】： fastdeploy-win-gpu-1.0.7 - 【编译命令】camke 编译 - 【系统平台】 Windows x64(Windows10) - 【硬件】： Nvidia GPU 3050， CUDA 11.6 CUDNN 8.4 - 【编译语言】： C++ ## 问题日志及出现问题的操作流程 这是我的camke...

yolov8的实例分割推理结果的mask，怎么还原回原图？

3

yolov8的实例分割推理结果的mask，怎么还原回原图？怎么把mask的结果渲染到原图上？谢谢！