YOLOv3-model-pruning 为啥我测试之后发现模型前向推断速度并没有加快呢？

为啥我测试之后发现模型前向推断速度并没有加快呢？

Open texasmotorcycle opened this issue 5 years ago • 7 comments

Oct 07 '19 01:10 texasmotorcycle

我也发现这个问题了，是不是显卡的问题，我用的是性能比较低的1050

Nov 20 '19 10:11 linsongxue

@linsongxue 。同学，你test的时候又发现速度超级慢吗？我平均处理一张图需要10分钟。

Nov 20 '19 12:11 Dely-Yu

@linsongxue 。同学，你test的时候又发现速度超级慢吗？我平均处理一张图需要10分钟。

十分钟太夸张了吧，我剪枝后的模型运算速度和剪枝前没啥区别，1660Ti设置bitch_size=8的时候耗时400ms，也就是说处理平均一张图50ms

Jun 17 '20 01:06 ZhangAdjy

我测试剪枝后的模型也没有加快

Jun 17 '20 07:06 ZhangAdjy

@Dely-Yu 10分钟还是比较夸张的，但是我觉得没啥变化

Jun 26 '20 04:06 linsongxue

@ZhangAdjy 我后来发现，检测时间其实有一半以上都花费在NMS算法上。所以这个项目的速度提升很可能是用了更少的分类，所以NMS所用时间减少了。

Jun 26 '20 04:06 linsongxue

请问一下大佬们，检测速度的代码在哪里啊，我没有找到呜呜呜

Jan 17 '22 04:01 906096481