mAP计算过程中预测结果异常

[wkgit88]

作者您好，我用自己数据集训练的模型mAP很低（同样数据集用您的yolov8接近您voc的mAP），打开detection-result发现输出结果中很多top和bottom值都是负数，比如person 0.0059 523 -114 545 -77，我对预测结果取绝对值后mAP没有改变，说明不是单纯的取反而是溢出了，请问这种情况改怎么修改呢？

[bubbliiiing]

你咋在关注得分这么低的0 0

[bubbliiiing]

这个貌似计算的时候会和0取max

[wkgit88]

这个貌似计算的时候会和0取max

ok,谢谢up

[wkgit88]

你咋在关注得分这么低的0 0

想测测各种anchor free的算法效果都怎么样

[bubbliiiing]

就是我看这个score怎么都这么低呀

[wkgit88]

我也觉得奇怪，不过其它模型训练出来也有很低的，但不影响后面mAP，只是召回率都很低。yolo系列的跟您测的map差不多，但其它一些模型的就差很远。比如这个yolo8-s的，也有很多低score的，召回率低（0.5的阈值20%几），但map高。请问这是有什么问题吗？

[bubbliiiing]

有高score的吗

[wkgit88]

有高score的吗

有的，0.9几的

[lkhwhkzz]

这个貌似计算的时候会和0取max

ok,谢谢up

请问我也是这样的，你是怎么改的

[lkhwhkzz]

有高score的吗

有的，0.9几的

我将nms从false设置为true,map结果就回来提高了，认为是centernet会在真实框周围预测很多框，所以有必要开启nms以及设置nms的大小，getmap中nms值会覆盖掉centernet.py中nms,记得设置好以及运行之后看表格内的值