Paddle2ONNX icon indicating copy to clipboard operation
Paddle2ONNX copied to clipboard

Published 20 hours ago • verified publisher icon PaddlePaddle

ONNX 模型大于 2G生成的external_data如何加载呢

Open 471417367 opened this issue 1 year ago • 4 comments

当导出的 ONNX 模型大于 2G 时，生成了一个inference.onnx和一个external_data文件，请问external_data文件如何加载呢？

471417367 avatar Mar 28 '23 06:03 471417367

将inference.onnx和external_data文件放在同一目录下， 然后就像读普通ONNX模型一样读inference.onnx即可

yeliang2258 avatar Mar 28 '23 09:03 yeliang2258

在生成onnx时，use_external_data_format 设置为True，生成了许多二进制文件，请问之后如何转trt呢？

wojiaoyanmin avatar Mar 28 '23 12:03 wojiaoyanmin

在生成onnx时，use_external_data_format 设置为True，生成了许多二进制文件，请问之后如何转trt呢？

具体转换命令是？

yeliang2258 avatar Mar 29 '23 06:03 yeliang2258

谢谢，按此操作，已经成功。

yeliang2258 @.***> 于2023年3月28日周二 17:27写道：

将inference.onnx和external_data文件放在同一目录下， 然后就像读普通ONNX模型一样读inference.onnx即可

— Reply to this email directly, view it on GitHub https://github.com/PaddlePaddle/Paddle2ONNX/issues/1063#issuecomment-1486516418, or unsubscribe https://github.com/notifications/unsubscribe-auth/ALQZU4T4PB4BPI4HHZQF22DW6KVIBANCNFSM6AAAAAAWKCVCY4 . You are receiving this because you authored the thread.Message ID: @.***>

471417367 avatar Apr 03 '23 08:04 471417367