PaddleX icon indicating copy to clipboard operation
PaddleX copied to clipboard

windows环境下paddlex v2.0.0,预测库v2.3,paddle_inference-avx_mkl_cuda11.2_cudnn8.2_avx_mkl-trt8.0.1.6 c++部署问题

Open DreamMaker777 opened this issue 3 years ago • 1 comments
trafficstars

Checklist:

  1. 查找历史相关issue寻求解答
  2. 翻阅FAQ常见问题汇总和答疑
  3. 确认bug是否在新版本里还未修复
  4. 翻阅PaddleX 部署文档说明

描述问题

复现

  1. c++部署方式

    • 您是否按照文档教程已经正常运行我们提供的demo

    • 您是否在demo基础上修改代码内容?还请您提供运行的代码

  2. c#部署方式

    • 您是否按照文档教程已经正常运行我们提供的demo

    • 您是否在demo基础上修改代码内容?还请您提供运行的代码

    • 如果c# demo无法正常运行,c++ demo是否已经正常运行?

  3. 您使用的模型数据集是?

  4. 请提供您出现的报错信息及相关log

环境

  1. 如果您使用的是python部署方式,请提供您使用的PaddlePaddle、PaddleX版本号、Python版本号

  2. 如果您使用的是c++或c#部署方式,请提供您使用的PaddleX分支、推理引擎(例如PaddleInference)版本号

  3. 请提供您使用的操作系统信息,如Linux/Windows/MacOS

  4. 请问您使用的CUDA/cuDNN的版本号是?

问题描述 Unet部署 i7-8700k,RTX2070,cuda10.2,cudnn8.2.0,tensorrt7.2.3.4,paddle_inference-cuda10.2_cudnn7.6_avx_mkl_trt7.0.0.11环境下可以正常运行; 333

cuda11.0,cudnn8.0.3,tensorrt7.2.1.6,paddle_inference-cuda11.0_cudnn8.0_avx_mkl_trt7.2.1.6环境下,显存无法被充分利用就报out of memory 错误(图像大小和cuda10.2一样); 111 222 cuda11.2,cudnn8.2.0,tensorrt8.0.1.6,paddle_inference-cuda11.2_cudnn8.2_avx_mkl_trt8.0.1.6环境下无法运行 555 666

请问有什么解决方法吗?

DreamMaker777 avatar Jun 28 '22 15:06 DreamMaker777

模型是一样的,同样的显卡,cuda11.2,cudnn8.2.0推理的时候会报显存不足是吧?

lailuboy avatar Aug 06 '22 01:08 lailuboy