nanodet icon indicating copy to clipboard operation
nanodet copied to clipboard

ncnn和pytorch精度不一致

Open aso538 opened this issue 3 years ago • 4 comments

大佬们 请问一下为什么用自己训练集训练后的模型在pytorch上检测结果正常,但是在ncnn上时就会有一定程度的偏移,但是用官方给出的demo模型又没有偏差,能麻烦告知一下如何解决嘛

aso538 avatar May 31 '21 13:05 aso538

我猜测可能是因为预处理经过了resize+居中padding,ncnn的输出结果实际上是在预处理后的图像上的坐标,需要再转换到原图上去(参考draw_box里面:(x1 - effect_roi.x) * width_ratio)

BerylLuo avatar Mar 15 '22 06:03 BerylLuo

我猜测可能是因为预处理经过了resize+居中padding,ncnn的输出结果实际上是在预处理后的图像上的坐标,需要再转换到原图上去(参考draw_box里面:(x1 - effect_roi.x) * width_ratio)

您好,我是在pth转onnx后有精度不一致问题,确实遇到的resize的居中padding,因为一般的onnx是要求输入固定的,所以如果我h w keep_ratio的话,就很容易导致输入维度与onnx输入不一致的问题,我做的就是向右下padding的操作。 现在想想感觉不是特别妥当,想请教下pth -> onnx转换数据维度不一致该怎么处理,padding的话您建议哪种padding方式?期待您的回答 谢谢!

Cassieyy avatar Nov 24 '22 12:11 Cassieyy

sloving ncnn bbox shifting problem: https://github.com/RangiLyu/nanodet/issues/456#issuecomment-1831356836

cyizhuo avatar Nov 29 '23 07:11 cyizhuo

您的邮件已收到哦我会及时处理哒~

Cassieyy avatar Nov 29 '23 07:11 Cassieyy