shangliang Xu

Results 40 comments of shangliang Xu

you can use grid_sample to stead of deform_conv2d

看报错信息,Detector这个class没有声明吧,再检查一下呢

参考 https://github.com/PaddlePaddle/PaddleDetection/blob/release/2.5/ppdet/optimizer/optimizer.py#L310

根据显卡配置,建议设置成2的幂次

这里用的是dataloader的逻辑,要么你可以到dataset里修改成你想要的对象,要么可以把对象放入到一个list里,直接enumerate就行了

请问,你用的是coco数据集还是自己的数据集?如果是自己的数据集,建议你debug一下: https://github.com/PaddlePaddle/PaddleDetection/blob/develop/ppdet/modeling/heads/ppyoloe_head.py#L288 打印一下这里的assigned_ltrb看看,理论上这个tensor的min和max应该在[0, reg_max]之间

建议可以使用check_nan_inf工具排查一下: https://www.paddlepaddle.org.cn/documentation/docs/zh/guides/flags/check_nan_inf_cn.html#check-nan-inf