Serving Pytorch训练的模型有什么方法在PaddleServing部署吗？

Pytorch训练的模型有什么方法在PaddleServing部署吗？

Open youngstu opened this issue 3 years ago • 5 comments

Pytorch训练的模型有什么方法在PaddleServing部署吗？

Oct 21 '21 06:10 youngstu

https://github.com/PaddlePaddle/X2Paddle

Oct 21 '21 06:10 TeslaZhao

pytorch模型应该是直接支持的，也不需要转换。因为pytorch是python api，直接像前后处理一下写python代码来完成pytorch模型推理。

Oct 21 '21 07:10 youngstu

您说Pytorch模型不需要转换，就可以用使用Paddle的推理框架推理吗？

Oct 25 '21 08:10 TeslaZhao

在前处理import torch，用torch模型模型推理。paddle部分把前处理torch预测结果透传给后处理即可。

Oct 25 '21 08:10 youngstu

我用的python pipeline 在web_service中 import torch 服务都起不来。。。。

Jun 15 '22 02:06 1037419569