PaddleClas icon indicating copy to clipboard operation
PaddleClas copied to clipboard

Published 20 hours ago • verified publisher icon PaddlePaddle

onnx模型不支持GPU推理

Open neuwangmq opened this issue 1 year ago • 2 comments

  1. PaddleClas版本2.3使用自有数据训练的resnet50_vd模型
  2. 使用paddleonnx转换的onnx模型
  3. 使用infer.py进行推理 发现onnx的推理不支持GPU推理，使用onnxruntime-gpu进行推理时报错 ，提示onnx模型不支持GPU推理 请问paddleclas转换的onnx模型不能使用GPU推理吗？

neuwangmq avatar May 31 '23 08:05 neuwangmq

目前onnx不支持GPU推理，如果需要GPU推理的话，可以考虑使用paddleinference，速度很快哈

cuicheng01 avatar May 31 '23 09:05 cuicheng01

什么时候支持GPU，想问一下为啥不支持GPU，什么原因呢

BeyondYourself avatar Apr 26 '24 08:04 BeyondYourself