rknn-toolkit2
rknn-toolkit2 copied to clipboard
pt文件转onnx后再转rknn时得到推理图片出现了花屏,也就是大量的锚框,已解决
根据野火提供的教程https://doc.embedfire.com/linux/rk356x/Ai/zh/latest/lubancat_ai/example/yolov5.html,将pt转成onnx后,再利用rknn-tookit2转rknn时,测试的result.jpg图片出现了花屏,也就是大量的目标检测框框。如下图:
后来发现有个博主遇到类似的问题https://blog.csdn.net/weixin_43141131/article/details/128407827,根据他的提示是由于导出时,也就是野火提供的导出教程文档,修改的yolo.py的forward方法里增加sigmoid函数处理,导致了花屏,把这个sigmoid函数去掉就好了。yolov5的models/yolo.py forward方法改成下面这样,就可以了。
def forward(self, x):
z = [] # inference output
for i in range(self.nl):
x[i] = self.m[i](x[i]) # conv
return x
这其实是后处理出了问题,不建议直接改训练模型,用官方最新demo的代码就解决了