Paddle2ONNX icon indicating copy to clipboard operation
Paddle2ONNX copied to clipboard

尝试将transformer模型转为onnx时报错,目前ppadle是否支持换transformer模型

Open sparkssjj opened this issue 1 year ago • 5 comments

目前尝试将papdlenlp中uie-m-large模型转换为onnx报错,转换命令如下:

paddle2onnx --model_dir ./
--model_filename sentencepiece.bpe.model
--params_filename model_state.pdparams
--save_file uie_m_large.onnx
--enable_dev_version False

7241af36db4580b776981bfbe31c188f

目前paddle转换是否支持transformer

sparkssjj avatar Apr 03 '23 08:04 sparkssjj

看起来是模型解析就报错了,安装的是那个版本的Paddle呢?另外,升级一下Paddle2ONNX为最新版本,设置--enable_dev_version True

yeliang2258 avatar Apr 04 '23 03:04 yeliang2258

paddle==2.4.2, paddlenlp==2.5.2, paddle2onnx==1.0.6, enable_dev_vision True也是同样错误

sparkssjj avatar Apr 04 '23 04:04 sparkssjj

我才注意到,你的模型是预训练模型,不是部署模型,部署模型应该是.pdmodel和pdiparams结尾的文件

yeliang2258 avatar Apr 04 '23 09:04 yeliang2258

import paddle from paddlenlp import Taskflow

schema = ['时间', '选手', '赛事名称'] ie = Taskflow('information_extraction', schema=schema, model="uie-m-large") paddle.save(ie, "./npl_model/uie_m_large.pdmodel")

用这样的方式保存报错: File "/usr/local/lib/python3.8/dist-packages/paddle/framework/io.py", line 348, in _pickle_save pickler.dump(obj)

TypeError: cannot pickle 'paddle.fluid.libpaddle.AnalysisConfig' object

请问nlp模型怎么正确保存为部署模型。

sparkssjj avatar Apr 10 '23 08:04 sparkssjj

同问 ; 请问nlp模型怎么正确保存为部署模型。

chestnut111 avatar Nov 10 '23 02:11 chestnut111