rknn-toolkit2 icon indicating copy to clipboard operation
rknn-toolkit2 copied to clipboard

多核rknn推理:failed to submit!, op name: concat。

Open WuxinrongY opened this issue 2 years ago • 4 comments

问题描述: 使用香橙派5推理yolov7_tiny的rknn模型,单核推理时,推理正常;双核推理时出现 failed to submit!, op name: concat错误,频率约400帧/次;三核推理也会出现同样的错误,频率50帧/次。

猜测:yolov7_tiny中的报错concat位于主干网络ELAN模块,是否由于三核未设置同步导致?

WuxinrongY avatar Sep 18 '23 12:09 WuxinrongY

另外,补充1.5.2推理框架比1.4慢,同模型1.4可以推理40帧,1.5.2只能推理30帧。

WuxinrongY avatar Sep 18 '23 12:09 WuxinrongY

@WuxinrongY

您可能需要剪切最后 3 个卷积层,同时尝试检查用于导出模型的 RKNN 版本(最好是相同的版本

besmaguesmi avatar Nov 08 '23 17:11 besmaguesmi

@Guemann-ui 但是报错是在4条特征concat的操作中,不局限于最后的3个卷积层,这个问题怎么解决呢?

WuxinrongY avatar Nov 10 '23 03:11 WuxinrongY

我在跑yolov9-c时也出现类似问题,NPU0推理正常,但多核推理报错,请问你解决了吗

TakeshiGianlee avatar Apr 03 '24 05:04 TakeshiGianlee