PaddleX icon indicating copy to clipboard operation
PaddleX copied to clipboard

PaddleX支持C++部署吗?还有就是支持多张图像、多模型并行推理吗?

Open 1316540491 opened this issue 6 months ago • 1 comments

Checklist:

描述问题

复现

  1. 高性能推理

  2. 服务化部署

    • 您是否完全按照服务化部署文档教程跑通了流程?

    • 您在服务化部署中是否有使用高性能推理插件?

    • 您使用了哪一种服务化部署方案?

    • 如果是多语言调用的问题,请给出调用示例子。

  3. 端侧部署

    • 您是否完全按照端侧部署文档教程跑通了流程?

    • 您使用的端侧设备是?对应的PaddlePaddle版本和PaddleLite版本分别是什么?

  4. 您使用的模型数据集是?

  5. 请提供您出现的报错信息及相关log

环境

  1. 请提供您使用的PaddlePaddle、PaddleX版本号、Python版本号

  2. 请提供您使用的操作系统信息,如Linux/Windows/MacOS

  3. 请问您使用的CUDA/cuDNN的版本号是?

1316540491 avatar May 15 '25 08:05 1316540491

暂时不支持C++部署,支持多进程多卡并行推理哈,详见:https://github.com/PaddlePaddle/PaddleX/blob/release/3.0/docs/pipeline_usage/instructions/parallel_inference.md

changdazhou avatar May 21 '25 03:05 changdazhou

The issue has no response for a long time and will be closed. You can reopen or new another issue if are still confused.


From Bot

TingquanGao avatar Jun 21 '25 12:06 TingquanGao