Paddle2ONNX icon indicating copy to clipboard operation
Paddle2ONNX copied to clipboard

导出onnx时修改Conv2DTranspose的输入数据类型为int32

Open banhongjun opened this issue 3 years ago • 7 comments

请将下面信息填写完整,便于我们快速解决问题,谢谢!

问题描述 导出onnx时修改Conv2DTranspose的输入数据类型为int32

  • 用于部署的推理引擎:

报错截图 image

banhongjun avatar Feb 16 '22 07:02 banhongjun

我看这个是做动态图shape推断的时候提示输入shape size的数据类型不对,你输入了一个int64的数据,但是只支持int32,请问你使用的是什么推理引擎呢?是否是接口使用有误?

yeliang2258 avatar Feb 16 '22 08:02 yeliang2258

另外我们也准备了一份问卷,方便的话请抽出半分钟时间帮完成问卷 https://iwenjuan.baidu.com/?code=r8hu2s 帮助Paddle2ONNX做得更好

yeliang2258 avatar Feb 16 '22 08:02 yeliang2258

这个是转换文本检测的静态文件为onnx,用的华为atlas300I推理卡,atc指令转换时报的错误,报错是输入的input0的数据类型为INT_64,目前只支持INT_32, 建议修改模型中Conv2DTranspose的输入类型。

banhongjun avatar Feb 16 '22 08:02 banhongjun

@banhongjun Hi, 你好,这个问题建议咨询下华为Atalas,Paddle2ONNX负责将Paddle模型转成ONNX格式,你可以使用ONNXRuntime对模型的正确性进行较验,如若ONNXRuntime加载和预测有问题,可以将详细的错误反馈给我们。

jiangjiajun avatar Feb 16 '22 09:02 jiangjiajun

我想问的问题是可不可以导出onnx时修改Conv2DTranspose的输入数据类型为int32,yes or no,就这么简单的问题。

banhongjun avatar Feb 16 '22 09:02 banhongjun

Paddle2ONNX目前没有支持此功能,也无计划支持。 ONNX是一个开源的模型格式,格式参考https://github.com/onnx/onnx.git

jiangjiajun avatar Feb 16 '22 10:02 jiangjiajun

明白了,多谢!

banhongjun avatar Feb 16 '22 10:02 banhongjun