PaddleOCR icon indicating copy to clipboard operation
PaddleOCR copied to clipboard

用TensorRT加速OCR的rec模型推理时报错

Open Shrinco opened this issue 2 years ago • 10 comments

我参照paddleOCR的deploy下的cpp_infer推理代码,在使用TensorRT来加速ch_PP-OCRv3_rec模型时出现了一个错误

错误信息如下: InvalidArgumentError: TRT runtime input shape of x is invalid. Expect runtime input shape to be within min/max input shape configured in SetTRTDynamicShapeInfo(),but got runtime input shape = [6, 3, 48, 320], min input shape = [1, 3, 48, 10], max input shape = [1, 3, 48, 2000]。

请问这个错误该如何修改?

Shrinco avatar Jul 20 '22 08:07 Shrinco

你好,导出的时候麻烦指定rec_batch_num为你实际预测时候的batch num

littletomatodonkey avatar Jul 25 '22 11:07 littletomatodonkey

你好,导出的时候麻烦指定rec_batch_num为你实际预测时候的batch num

您好,这个问题已经解决了,谢谢。

Shrinco avatar Jul 26 '22 08:07 Shrinco

你好,导出的时候麻烦指定rec_batch_num为你实际预测时候的batch num

您好,这个问题已经解决了,谢谢。

能问下怎么解决的吗

pbabading avatar Aug 05 '22 08:08 pbabading

能问下怎么解决的吗

PaddleOCR的库里有一行代码是指定batch_num大小的,让他为1就好了。

Shrinco avatar Aug 08 '22 01:08 Shrinco

能问下怎么解决的吗

PaddleOCR的库里有一行代码是指定batch_num大小的,让他为1就好了。

改完后你tensorrt 加速就可以了吗

pbabading avatar Aug 08 '22 02:08 pbabading

改完后你tensorrt 加速就可以了吗 改完之后trt能正常加速了

Shrinco avatar Aug 08 '22 03:08 Shrinco

能问下怎么解决的吗

PaddleOCR的库里有一行代码是指定batch_num大小的,让他为1就好了。

大佬能问一下 你说的库里有一行代码指定batch_num大小的 是哪个文件夹 cpp_infer吗

pbabading avatar Aug 08 '22 03:08 pbabading

能问下怎么解决的吗

PaddleOCR的库里有一行代码是指定batch_num大小的,让他为1就好了。

大佬能问一下 你说的库里有一行代码指定batch_num大小的 是哪个文件夹 cpp_infer吗

大佬还有印象嘛

pbabading avatar Aug 08 '22 05:08 pbabading

大佬还有印象嘛

在那个cpp_infer下的ocr_rec.cpp里,修改这个为1就好了应该 image

Shrinco avatar Aug 09 '22 02:08 Shrinco

好的 不好意思现在才看见 谢谢

发自我的iPhone

------------------ 原始邮件 ------------------ 发件人: shrinco @.> 发送时间: 2022年8月9日 10:13 收件人: PaddlePaddle/PaddleOCR @.> 抄送: pbabading @.>, Comment @.> 主题: 回复:[PaddlePaddle/PaddleOCR] 用TensorRT加速OCR的rec模型推理时报错 (Issue #6945)

大佬还有印象嘛 在那个cpp_infer下的ocr_rec.cpp里,修改这个为1就好了应该

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you commented.Message ID: @.***>

pbabading avatar Aug 09 '22 15:08 pbabading