PaddleSlim icon indicating copy to clipboard operation
PaddleSlim copied to clipboard
verified publisher icon PaddlePaddle

咨询CNN+Transformer部署

Open ywfwyht opened this issue 2 years ago • 1 comments

您好，请问CNN+Transformer部署的思路过程是什么？有参考学习的代码吗？

ywfwyht avatar May 11 '23 06:05 ywfwyht

可以试下FastDeploy的服务化部署，基于Triton Inference Server，集成FastDeploy Runtime(包括Paddle Inference、ONNX Runtime、TensorRT以及OpenVINO） https://github.com/PaddlePaddle/FastDeploy/blob/develop/serving/README_CN.md

ceci3 avatar Feb 06 '24 06:02 ceci3