Paddle2ONNX icon indicating copy to clipboard operation
Paddle2ONNX copied to clipboard
verified publisher icon PaddlePaddle

[Windows] 无法转换Paddle3.0.0的json格式paddle inference模型

Open kisaragychihaya opened this issue 11 months ago • 10 comments

Please fill in the information below so that we can solve the problem quickly, Thanks !

Describe the bug 使用PDX 3.0rc1 训练时序缺陷检测后导出的模型无法转换

Informations (please complete the following information):

  • Inference engine for deployment: PD INFERENCE 3.0-->onnxruntime
  • Why convert to onnx：在端侧设备上部署
  • Paddle2ONNX Version: 1.3.1
  • Email/Wechat/Phone:

Screenshots

Image

Additional context

kisaragychihaya avatar Apr 28 '25 08:04 kisaragychihaya

Please fill in the information below so that we can solve the problem quickly, Thanks !

Describe the bug 使用PDX 3.0rc1 训练时序缺陷检测后导出的模型无法转换

Informations (please complete the following information):

  • Inference engine for deployment: PD INFERENCE 3.0-->onnxruntime
  • Why convert to onnx：在端侧设备上部署
  • Paddle2ONNX Version: 1.3.1
  • Email/Wechat/Phone:

Screenshots

Image

Additional context

解决了吗，我也没法转换

Rogerlv51 avatar Apr 28 '25 09:04 Rogerlv51

Windows平台可以安装pip install paddle2onnx==2.0.2rc1, 需要注意的是，2.0.2rc1要求paddlepaddle或者paddlepaddle-gpu的版本>=3.0.0.dev20250426

麻烦尝试：

  1. 检查paddlepaddle的版本，3.0.0 是不可以的，需要>=3.0.0.dev20250426
  2. 重新安装 paddle2onnx==2.0.2rc1

0x3878f avatar Apr 28 '25 09:04 0x3878f

Windows平台可以安装pip install paddle2onnx==2.0.2rc1, 需要注意的是，2.0.2rc1要求paddlepaddle或者paddlepaddle-gpu的版本>=3.0.0.dev20250426

麻烦尝试：

  1. 检查paddlepaddle的版本，3.0.0 是不可以的，需要>=3.0.0.dev20250426
  2. 重新安装 paddle2onnx==2.0.2rc1

您好，能麻烦给下paddlepaddle-gpu>=3.0.0.dev20250426版本的windows安装命令吗，默认还是0401的版本

Rogerlv51 avatar Apr 28 '25 09:04 Rogerlv51

您好，能麻烦给下paddlepaddle-gpu>=3.0.0.dev20250426版本的windows安装命令吗，默认还是0401的版本

可参考飞桨官网安装命令：PaddlePaddle安装 选择develop (Nightly build) 以及其他适合的选项

Image

0x3878f avatar Apr 28 '25 09:04 0x3878f

您好，能麻烦给下paddlepaddle-gpu>=3.0.0.dev20250426版本的windows安装命令吗，默认还是0401的版本

可参考飞桨官网安装命令：https://www.paddlepaddle.org.cn/install/quick?docurl=/documentation/docs/zh/develop/install/pip/windows-pip.html 选择develop (Nightly build) 以及其他适合的选项

Image

指定最新版本号后已成功到处onnx，感谢

Rogerlv51 avatar Apr 28 '25 09:04 Rogerlv51

您好，能麻烦给下paddlepaddle-gpu>=3.0.0.dev20250426版本的windows安装命令吗，默认还是0401的版本

可参考飞桨官网安装命令：PaddlePaddle安装 选择develop (Nightly build) 以及其他适合的选项

Image

您好，想请教您一个问题，我导出了这个onnx，然后是PaddleSeg我自己的数据集训练好的模型。请问有推荐的官方onnxruntime c++代码吗？我现在写的代码貌似有点问题，mask生成全是0，预测不出结果。感谢

Rogerlv51 avatar Apr 29 '25 08:04 Rogerlv51

您好，想请教您一个问题，我导出了这个onnx，然后是PaddleSeg我自己的数据集训练好的模型。请问有推荐的官方onnxruntime c++代码吗？我现在写的代码貌似有点问题，mask生成全是0，预测不出结果。感谢

请问load已经保存的Paddle模型和参数可以正常预测吗？可以先确认下save的模型是否正确

0x3878f avatar Apr 29 '25 08:04 0x3878f

您好，想请教您一个问题，我导出了这个onnx，然后是PaddleSeg我自己的数据集训练好的模型。请问有推荐的官方onnxruntime c++代码吗？我现在写的代码貌似有点问题，mask生成全是0，预测不出结果。感谢

请问load已经保存的Paddle模型和参数可以正常预测吗？可以先确认下save的模型是否正确

您是说GitHub的python代码直接推理吗，是没问题的，使用predict脚本

Rogerlv51 avatar Apr 29 '25 08:04 Rogerlv51

您好，想请教您一个问题，我导出了这个onnx，然后是PaddleSeg我自己的数据集训练好的模型。请问有推荐的官方onnxruntime c++代码吗？我现在写的代码貌似有点问题，mask生成全是0，预测不出结果。感谢

请问load已经保存的Paddle模型和参数可以正常预测吗？可以先确认下save的模型是否正确

您是说GitHub的python代码直接推理吗，是没问题的

可以按照下面思路排查下问题：

  1. 确认paddle.jit.save或者paddle.save的模型正确，可通过重新load后进行推理测试
  2. 使用onnxruntime python API进行推理测试
  3. 确认是onnxruntime c++推理代码的问题，需要咨询onnxruntime

0x3878f avatar Apr 29 '25 08:04 0x3878f

pip install paddle2onnx==2.0.2rc1 为什么pip 搜不到这个版本的，是需要什么python版本吗

KeyKy avatar May 22 '25 07:05 KeyKy

This issue is stale because it has been open for 30 days with no activity.

github-actions[bot] avatar Jun 22 '25 03:06 github-actions[bot]

This issue was closed because it has been inactive for 14 days since being marked as stale.

github-actions[bot] avatar Jul 06 '25 03:07 github-actions[bot]

我一样的问题，改成paddle2onnx==2.0.2rc1后，会报错paddle2onnx --model_dir D:\0_data\0 --model_filename model.json --params_filename model.pdiparams --save_file model.onnx 信息: 用提供的模式无法找到文件。 D:\anaconda3\envs\mzai_cu126\lib\site-packages\paddle\utils\cpp_extension\extension_utils.py:718: UserWarning: No ccache found. Please be aware that recompiling all source files may be required. You can download and install ccache from: https://github.com/ccache/ccache/blob/master/doc/INSTALL.md warnings.warn(warning_message) Traceback (most recent call last): File "D:\anaconda3\envs\mzai_cu126\lib\runpy.py", line 196, in _run_module_as_main return run_code(code, main_globals, None, File "D:\anaconda3\envs\mzai_cu126\lib\runpy.py", line 86, in run_code exec(code, run_globals) File "D:\anaconda3\envs\mzai_cu126\Scripts\paddle2onnx.exe_main.py", line 2, in File "D:\anaconda3\envs\mzai_cu126\lib\site-packages\paddle2onnx_init.py", line 47, in from .convert import export # noqa: F401 File "D:\anaconda3\envs\mzai_cu126\lib\site-packages\paddle2onnx\convert.py", line 18, in import paddle2onnx.paddle2onnx_cpp2py_export as c_p2o ImportError: DLL load failed while importing paddle2onnx_cpp2py_export: 找不到指定的程序。

duskkkrua avatar Nov 06 '25 02:11 duskkkrua

我一样的问题，改成paddle2onnx==2.0.2rc1后，会报错paddle2onnx --model_dir D:\0_data\0 --model_filename model.json --params_filename model.pdiparams --save_file model.onnx 信息: 用提供的模式无法找到文件。 D:\anaconda3\envs\mzai_cu126\lib\site-packages\paddle\utils\cpp_extension\extension_utils.py:718: UserWarning: No ccache found. Please be aware that recompiling all source files may be required. You can download and install ccache from: https://github.com/ccache/ccache/blob/master/doc/INSTALL.md warnings.warn(warning_message) Traceback (most recent call last): File "D:\anaconda3\envs\mzai_cu126\lib\runpy.py", line 196, in run_module_as_main return run_code(code, main_globals, None, File "D:\anaconda3\envs\mzai_cu126\lib\runpy.py", line 86, in run_code exec(code, run_globals) File "D:\anaconda3\envs\mzai_cu126\Scripts\paddle2onnx.exe__main.py", line 2, in File "D:\anaconda3\envs\mzai_cu126\lib\site-packages\paddle2onnx__init_.py", line 47, in from .convert import export # noqa: F401 File "D:\anaconda3\envs\mzai_cu126\lib\site-packages\paddle2onnx\convert.py", line 18, in import paddle2onnx.paddle2onnx_cpp2py_export as c_p2o ImportError: DLL load failed while importing paddle2onnx_cpp2py_export: 找不到指定的程序。

paddle相关环境如下：

paddle2onnx 2.0.2rc1 paddleocr 3.2.0 paddlepaddle 3.2.0 paddlepaddle-gpu 3.2.0 paddleseg 0.0.0.dev0 d:\project\paddleseg paddlex 3.2.1

duskkkrua avatar Nov 06 '25 02:11 duskkkrua

差不多的问题： warnings.warn(warning_message) Traceback (most recent call last): File "", line 198, in run_module_as_main File "", line 88, in run_code File "D:\Anaconda3\envs\ppocr_new\Scripts\paddle2onnx.exe_main.py", line 2, in File "D:\Anaconda3\envs\ppocr_new\Lib\site-packages\paddle2onnx_init.py", line 47, in from .convert import export # noqa: F401 ^^^^^^^^^^^^^^^^^^^^^^^^^^^ File "D:\Anaconda3\envs\ppocr_new\Lib\site-packages\paddle2onnx\convert.py", line 18, in import paddle2onnx.paddle2onnx_cpp2py_export as c_p2o ImportError: DLL load failed while importing paddle2onnx_cpp2py_export: 找不到指定的程序。

paddle2onnx 2.0.2rc1 paddleocr 3.3.1 paddlepaddle 3.2.0 paddlex 3.3.8

zgkom avatar Nov 06 '25 09:11 zgkom

差不多的问题： warnings.warn(warning_message) Traceback (most recent call last): File "", line 198, in run_module_as_main File "", line 88, in run_code File "D:\Anaconda3\envs\ppocr_new\Scripts\paddle2onnx.exe__main.py", line 2, in File "D:\Anaconda3\envs\ppocr_new\Lib\site-packages\paddle2onnx__init__.py", line 47, in from .convert import export # noqa: F401 ^^^^^^^^^^^^^^^^^^^^^^^^^^^ File "D:\Anaconda3\envs\ppocr_new\Lib\site-packages\paddle2onnx\convert.py", line 18, in import paddle2onnx.paddle2onnx_cpp2py_export as c_p2o ImportError: DLL load failed while importing paddle2onnx_cpp2py_export: 找不到指定的程序。

paddle2onnx 2.0.2rc1 paddleocr 3.3.1 paddlepaddle 3.2.0 paddlex 3.3.8

你解决了吗，有点头大，它好像是要回退onnxruntime 版本到1.16.1？但我现在框架不允许啊

duskkkrua avatar Nov 06 '25 13:11 duskkkrua

@zgkom @duskkkrua @KeyKy @0x3878f 找到解决方法了，属实难绷。

就得执行这条指令：python -m pip install --pre paddlepaddle-gpu==3.0.0.dev20250426 -i https://www.paddlepaddle.org.cn/packages/nightly/cu126/，装 3.0.0.dev20250426 这个开发版的 PaddlePaddle ，没别的招。

说真的，正常人谁会去装开发版啊（明明开发版该不稳定，结果这次正式版才是真·不稳定）？ 要导出 PPOCRv5 ，PaddlePaddle 版本就必须是 3.0+，正常安装 Paddle2ONNX 导出，会直接报ImportError: DLL load failed while importing paddle2onnx_cpp2py_export: 找不到指定的程序。；改成降级 onnx 和 onnxruntime，再装 Paddle2ONNX 1.3.1 吧，又蹦出 Failed to parse paddlepaddle model from read content.。

合着就是，想导出PaddlePaddle 3.0+的模型，必须用Paddle2ONNX 2.0+，但用上了就卡进刚才那堆报错的死循环里，绝了。

laugh12321 avatar Nov 11 '25 02:11 laugh12321

I also was able to make it work. Here is the list of packages and versions that were required in the venv. Image

Specifically, ensure you have pip install paddle2onnx==2.0.2rc3 and python -m pip install --pre paddlepaddle-gpu==3.0.0.dev20250426 -i https://www.paddlepaddle.org.cn/packages/nightly/cu126/ as laugh12321 said.

qhancock avatar Nov 11 '25 11:11 qhancock