FastDeploy icon indicating copy to clipboard operation
FastDeploy copied to clipboard
verified publisher icon PaddlePaddle

TensorRT后端能否生成engin文件，下次启动直接打开engin文件，不用每次生成。

Open lvrh2018 opened this issue 1 year ago • 2 comments

借鉴Nvidia DeepStream框架的思路，第一次生成TensorRT的engin文件，下次找到文件就直接打开使用，程序启动就快多了。现在每次启动都要生成一遍，等待时间太长。

lvrh2018 avatar May 17 '24 02:05 lvrh2018

找到接口了。

lvrh2018 avatar May 17 '24 06:05 lvrh2018

请教一下，您是怎么做的？

bltcn avatar Jun 03 '24 04:06 bltcn