mmdetection3d 将PGD head 的GN改为BN训练，效果会差很多，越训练越差

将PGD head 的GN改为BN训练，效果会差很多，越训练越差

Open betterhalfwzm opened this issue 2 years ago • 2 comments

这个是什么原因导致的

Jul 13 '22 02:07 betterhalfwzm

We recommend using English or English & Chinese for issues so that we could have broader discussion.

Jul 13 '22 02:07 mm-assistant[bot]

FCOS3D和PGD改成BN应该收敛会变慢，但之前和其他同事沟通应该可以通过训练时间加长来改善，不过这可能是大规模数据集上的经验，KITTI上可能会有点tricky。

Aug 03 '22 06:08 Tai-Wang

I try to change GN to BN, and training more times(6x) on NuScenes and KITTI, but the result is still much worse than GN, especially on KITTI.

Sep 08 '22 08:09 clw5180

FCOS3D和PGD改成BN应该收敛会变慢，但之前和其他同事沟通应该可以通过训练时间加长来改善，不过这可能是大规模数据集上的经验，KITTI上可能会有点tricky。

请教下这里有什么理论依据么，即使设置了KITTI的batchsize=16*8gpu，依然和GN差很多；

Oct 07 '22 06:10 clw5180

@Tai-Wang @betterhalfwzm @clw5180 我将FCOS3D的GN修改为SyncBN后，batchsize=8*8GPU=64。在nuscenes数据集上，NDS和mAP结果很低，MAP从0.35+降低到0.1，请问各位有什么解决建议吗？

Dec 09 '22 11:12 Isaac-xie

同求解答，感谢大佬 @Tai-Wang

Dec 27 '22 07:12 clw5180