PaddleX
PaddleX copied to clipboard
windows环境下paddlex v2.0.0,预测库v2.3,paddle_inference-avx_mkl_cuda11.2_cudnn8.2_avx_mkl-trt8.0.1.6 c++部署问题
Checklist:
- 查找历史相关issue寻求解答
- 翻阅FAQ常见问题汇总和答疑
- 确认bug是否在新版本里还未修复
- 翻阅PaddleX 部署文档说明
描述问题
复现
-
c++部署方式
-
您是否按照文档教程已经正常运行我们提供的demo?
-
您是否在demo基础上修改代码内容?还请您提供运行的代码
-
-
c#部署方式
-
您使用的模型和数据集是?
-
请提供您出现的报错信息及相关log
环境
-
如果您使用的是python部署方式,请提供您使用的PaddlePaddle、PaddleX版本号、Python版本号
-
如果您使用的是c++或c#部署方式,请提供您使用的PaddleX分支、推理引擎(例如PaddleInference)版本号
-
请提供您使用的操作系统信息,如Linux/Windows/MacOS
-
请问您使用的CUDA/cuDNN的版本号是?
问题描述
Unet部署
i7-8700k,RTX2070,cuda10.2,cudnn8.2.0,tensorrt7.2.3.4,paddle_inference-cuda10.2_cudnn7.6_avx_mkl_trt7.0.0.11环境下可以正常运行;

cuda11.0,cudnn8.0.3,tensorrt7.2.1.6,paddle_inference-cuda11.0_cudnn8.0_avx_mkl_trt7.2.1.6环境下,显存无法被充分利用就报out of memory 错误(图像大小和cuda10.2一样);
cuda11.2,cudnn8.2.0,tensorrt8.0.1.6,paddle_inference-cuda11.2_cudnn8.2_avx_mkl_trt8.0.1.6环境下无法运行

请问有什么解决方法吗?
模型是一样的,同样的显卡,cuda11.2,cudnn8.2.0推理的时候会报显存不足是吧?