Lin Manhui
Lin Manhui
可能需要把这句： ``` command: paddleocr genai_server --model_name PaddleOCR-VL-0.9B --backend vllm --backend_config /home/paddleocr/vlm_server_config.yaml ``` 改成： ``` paddleocr genai_server --model_name PaddleOCR-VL-0.9B --backend vllm --backend_config /home/paddleocr/vlm_server_config.yaml --host 0.0.0.0 --port 8080 ```
这个问题是不是应该到paddle2onnx仓库提问更合适一些？
paddlepaddle-gpu 3.3还没有发布，是怎么安装的呢？
paddlepaddle-gpu 3.3.0.dev20251123看起来是一个nightly-build版本，也就是开发版，尚不稳定，存在问题是有可能的。我们暂且先放一放，等正式发布3.3版本的时候功能会更加稳定。 对于 paddlepaddle-gpu 2.2，方便贴一下具体的报错信息吗？我在自己的环境中测试了一下paddlepaddle-gpu 2.2.0+paddle2onnx 2.0.2rc3，导出RT-DETR-X模型是正常的：
`import paddle2onnx` 也没有问题：
看起来像是在windows或CUDA 12.9环境缺库，我和相关同事反馈一下。感谢你提出问题。
请问使用的显卡是0号卡吗
图表模型使用动态图推理，而目前飞桨框架存在bug，如果使用非零号卡做动态图推理可能会有问题，日志中的错误就是试图使用一张卡上的tensor与另一张卡上的tensor执行计算导致的。这个bug预计将在飞桨框架的下一个版本（3.1.0）修复，届时paddlex也会做出适配。抱歉给你带来不便，目前请暂时在0号卡上使用～
> > > > 请问现在可以在非0号卡，以及多张卡上使用了吗？需要更新到什么版本？ 还是不行 我们尚未更新框架的版本 预计将在近期支持
你好，我们会讨论和评估这个需求，感谢提出建议