JingZhuangzhuang
JingZhuangzhuang
您好,使用 paddle-tensorrt 初始化时间长,是无法避免的。但可以 在该接口中,将 use_static 设置为 true,这样会保存下来序列化文件,再第二次运行时不再初始化。详细的 api 介绍:https://www.paddlepaddle.org.cn/inference/api_reference/python_api_doc/Config/GPUConfig.html#tensorrt
目前的理解是 trt 的初始化时间和子图中的算子个数和类型有关。和模型是否是转换得到的无关。是否会有其他因素的影响我再进一步调研后回复您。
您好,请问可以使用 Paddle 发布的 docker 编译吗? docker 里的环境是配好的,不会有环境问题。 https://hub.docker.com/r/paddlepaddle/paddle_manylinux_devel/tags
请问用 docker 解决编译问题了吗
好的,那现在您的问题是解决了吗,还有其他问题吗