shangliang Xu
shangliang Xu
you can use grid_sample to stead of deform_conv2d
看报错信息,Detector这个class没有声明吧,再检查一下呢
参考 https://github.com/PaddlePaddle/PaddleDetection/blob/release/2.5/ppdet/optimizer/optimizer.py#L310
根据显卡配置,建议设置成2的幂次
这里用的是dataloader的逻辑,要么你可以到dataset里修改成你想要的对象,要么可以把对象放入到一个list里,直接enumerate就行了
请问,你用的是coco数据集还是自己的数据集?如果是自己的数据集,建议你debug一下: https://github.com/PaddlePaddle/PaddleDetection/blob/develop/ppdet/modeling/heads/ppyoloe_head.py#L288 打印一下这里的assigned_ltrb看看,理论上这个tensor的min和max应该在[0, reg_max]之间
建议可以使用check_nan_inf工具排查一下: https://www.paddlepaddle.org.cn/documentation/docs/zh/guides/flags/check_nan_inf_cn.html#check-nan-inf