博主你好，剪枝后的推理速度变慢，您知道可能是什么原因吗

[ZZZDark]

我做的几组实验里面，参数量和FLOPS都下降了30%-50%左右，但是推理时间不仅没有下降，在一些修剪率低的实验里面甚至还提高了。请问您知道有什么可能的原因会导致这个问题吗？

[Yaodada12]

估计是裁剪完的网络通道数不是2^n，导致再GPU上并行加速效果下降，推理时间就增加了。CPU上应该会有速度提升。