PaddleX icon indicating copy to clipboard operation
PaddleX copied to clipboard

paddlex 的Manufacture SDK版本

Open ChaoII opened this issue 4 years ago • 2 comments

问题类型:模型部署 问题描述

========================
1、paddlex的Manufacture SDK 目前只支持cuda10.2+cuda7.6+trt7.0的sdk,目前paddlex新版本GUI只支持cuda11系列,所以总体来讲有点不太方便,是否可以编译不同版本的sdk,cuda11.0 11.2这些,还有部分仅支持CPU的是否可以提供。 2、paddlex的C++部署,在编译时依赖于paddleinference预测库,但是同样的问题,paddleinference未编译新版本cuda,cudnn和trt的预测库版本,所以还是存在上述问题,编译paddlexc++部署时,产生了很多麻烦。 3、目前paddlex还没有python版本的推理的高性能接口(deploy)。 谢谢回应,有没有新(Manufacture SDK 和paddleinference)版本发布和python支持的高性能部署接口,大概啥时候可以用上该版本?

ChaoII avatar Jul 23 '21 08:07 ChaoII

非常感谢你的反馈,我们下个版本的计划具体还没出,部署这块正在排期中。我会反馈并讨论你提的这些问题,最终可能需要下周才能答复你这些问题。

heliqi avatar Jul 26 '21 12:07 heliqi

我也遇到这样的问题,两年过去了 ,现在问题依旧

zzaozhuang avatar May 20 '23 15:05 zzaozhuang