retinanet-pytorch icon indicating copy to clipboard operation
retinanet-pytorch copied to clipboard

训练mAP问题

Open ChristmasLee opened this issue 2 years ago • 7 comments

b导,我在使用retinaNet训练时,使用主干网络作为预训练权重,然后pretrain设置为true,结果显示: Only tensors or tuples of tensors can be output from traced functions ...Error occurs, No graph saved 然后训练的每10代验证集mAP一直是0.00几,这是哪里出现问题如何解决呢?

ChristmasLee avatar Jul 30 '22 02:07 ChristmasLee

Only tensors or tuples of tensors can be output from traced functions ...Error occurs, No graph saved 不是错误,tensorboard里面的。 后面这个应该是没解冻

bubbliiiing avatar Jul 31 '22 14:07 bubbliiiing

Only tensors or tuples of tensors can be output from traced functions ...Error occurs, No graph saved 不是错误,tensorboard里面的。 后面这个应该是没解冻

那这个会影响训练结果吗,我的retinanet一直map是0.00x

ChristmasLee avatar Jul 31 '22 14:07 ChristmasLee

Only tensors or tuples of tensors can be output from traced functions ...Error occurs, No graph saved 不是错误,tensorboard里面的。 后面这个应该是没解冻

b导,retinaNet您给的初始也是adam优化器,那是不是也不能换成sgd?

ChristmasLee avatar Jul 31 '22 14:07 ChristmasLee

不建议换。不好调参

bubbliiiing avatar Aug 01 '22 14:08 bubbliiiing

不建议换。不好调参

B导,我自己的数据集其他模型都sgd训练300epoch然后最后可以到90,但是用您默认参数adam训练retinanet只能到70,这怎么解决呢

ChristmasLee avatar Aug 03 '22 02:08 ChristmasLee

yolo的效果比retinanet好还是蛮正常的……你可以再增大epoch看看

bubbliiiing avatar Aug 05 '22 15:08 bubbliiiing

不建议更换。不好调参

B导,我自己的数据集其他模型都sgd训练300epoch然后最后可以到90,但是用你默认参数adam训练retinanet只能到70,这怎么解决呢

我也遇到了同样的问题,retinanet的map要低于其它模型,请问您解决了吗?

lty1234-deep avatar Apr 15 '23 03:04 lty1234-deep