PaddleX icon indicating copy to clipboard operation
PaddleX copied to clipboard

如何同时运行多个产线呢?

Open BugManL opened this issue 5 months ago • 1 comments

问题描述

我已成功按照 PaddleX 服务化部署文档 跑通了单个 Pipeline 的服务部署流程,例如:

paddlex --serve --pipeline OCR

以及:

paddlex --serve --pipeline PP-StructureV3

但我目前的需求是 在同一环境中同时运行多个 Pipeline 服务(如 OCR 和 PP-StructureV3),以便系统根据任务调用不同模型。

当前方案

由于文档中未提供多 Pipeline 启动方式,我目前采用如下方式分别启动两个服务:

# 使用不同 terminal 或 screen 启动两个服务
paddlex --serve --pipeline OCR --port 8866
paddlex --serve --pipeline PP-StructureV3 --port 8867

遇到的问题

该方案虽可行,但存在以下问题或疑问:

  1. 是否只能通过 不同端口 的方式运行多个服务实例?
  2. 是否支持在同一进程中 加载多个 Pipeline,并根据请求路径或参数自动路由分发?
  3. 是否有 服务注册/统一调度机制(如网关、模型路由器等)?

BugManL avatar Jun 15 '25 02:06 BugManL