models icon indicating copy to clipboard operation
models copied to clipboard

PointNet++ Windows C++ Inference is not supported

Open jakeju92 opened this issue 5 years ago • 8 comments

Hi,

问题:

pointnet++_paddle PointNet++现在无法支持Windows C++部署, 有支持的计划吗? 如果官方没有支持, 那可以提供一个Workaround的思路吗? 另外, 如果我后续想用PaddleServing做云端部署, custom_op会影响部署吗? 有相应的部署例子吗? 谢谢!

jakeju92 avatar Jun 15 '20 06:06 jakeju92

  1. 不支持windows的部署主要是custom op的编译不支持,需要修改make.sh适配下windows
  2. custom op如果要部署的话编译的时候需要将custom op编译进去,目前没有例子,我们这边也在优化custom的部署方案

heavengate avatar Jun 18 '20 05:06 heavengate

老哥,请问后来找到了相关部署的例子吗?在ubuntu上的也可以

ZiqiXiong0603 avatar Feb 20 '24 05:02 ZiqiXiong0603

我后面用的是pytorch的libtorch C++库完成的部署,没有使用paddle

jakeju92 avatar Feb 20 '24 06:02 jakeju92

我后面用的是pytorch的libtorch C++库完成的部署,没有使用paddle

感谢老哥,我初步完成了,但是发现pointnet++单帧推理需要2000ms,pointnet只需要170ms,老哥您当初有发现类似问题吗

ZiqiXiong0603 avatar Feb 22 '24 06:02 ZiqiXiong0603

也正常吧,pointnet++在encoder部分叠加了多个pointnet,计算量天然比pointnet大,infer时间长也正常,你不放心可以排查下pointnet++中耗时比较高的瓶颈在哪儿,可以如何优化

jakeju92 avatar Feb 22 '24 06:02 jakeju92

也正常吧,pointnet++在encoder部分叠加了多个pointnet,计算量天然比pointnet大,infer时间长也正常,你不放心可以排查下pointnet++中耗时比较高的瓶颈在哪儿,可以如何优化

好嘞,感谢老哥

ZiqiXiong0603 avatar Feb 22 '24 06:02 ZiqiXiong0603

pointnet++单帧推理 博主 您好,请问可以求一份pointnet++part seg的推理代码吗?

ScarRipper avatar Mar 07 '24 05:03 ScarRipper

我后面用的是pytorch的libtorch C++库完成的部署,没有使用paddle

感谢老哥,我初步完成了,但是发现pointnet++单帧推理需要2000ms,pointnet只需要170ms,老哥您当初有发现类似问题吗

博主 您好,请问可以求一份pointnet++part seg的推理代码吗?

ScarRipper avatar Mar 07 '24 05:03 ScarRipper