请问一下，paddlex生成的模型在python里预测时，能用tensorRT加速吗

[CashBai]

问题类型：模型部署 问题描述

========================

请在这里描述您在使用过程中的问题，说明您的部署环境，部署需求，模型类型和应用场景等，便于开发人员快速响应。

[heliqi]

可以用TensorRT加速， https://github.com/PaddlePaddle/PaddleX/blob/release/2.0.0/paddlex/deploy.py 使用pdx.deploy.Predictor初始化时，可以传入参数开发TRT

[FlyingQianMM]

抱歉，这个是已知问题，该问题已修复，见pr https://github.com/PaddlePaddle/PaddleX/pull/1114/files

目前可以安装develop版本的PaddleX，见https://github.com/PaddlePaddle/PaddleX/blob/release/2.0.0/docs/install.md#paddlex-develop%E5%AE%89%E8%A3%85

也可以参考pr https://github.com/PaddlePaddle/PaddleX/pull/1114/files 直接修改安装目录下的paddlex:

[CashBai]

@FlyingQianMM 那问一下，TensorRT还需要另外安装吗？目前用的是paddlex2.0.0，Cuda11.2，cudnn8.1。如果要另外安装TensorRT的话，需要安装什么版本的？

[CashBai]

@FlyingQianMM @heliqi 上面的BUG解决了，但是遇到了一个新的问题，如下图，当use_trt=True时，载入完模型后，Spyder就会Restarting Kernel。当use_trt=False时，就没有问题。

[CashBai]

@FlyingQianMM @heliqi 当我用cmd进行测试时，use_trt显示如下报错

[will-jl944]

报错信息显示你安装的paddlepaddle-gpu不是支持TensorRT的版本，可以到这里下载安装支持TensorRT的包。

[CashBai]

@will-jl944 我看了下支持TensorRT的包都只支持Linux，是不是目前还不支持win系统？

[will-jl944]

windows系统的话，python部署使用tensorrt需要自己编译一个paddlepaddle包，在执行cmake时指定tensorrt路径，详见教程，官方暂未提供编好的安装包。 或者也可以使用c++部署，不需要编译paddlepaddle。详见教程。