caffe-yolov3 icon indicating copy to clipboard operation
caffe-yolov3 copied to clipboard

yolov3转caffemodel的精度损失

Open sditeng opened this issue 5 years ago • 11 comments

您好,yolov3转caffemodel,用darknet和caffe跑之后对比,发现obj、w、h之间的绝对值误差蛮大的。

sditeng avatar Oct 18 '19 11:10 sditeng

您好,yolov3转caffemodel,用darknet和caffe跑之后对比,发现obj、w、h之间的绝对值误差蛮大的。

请问您现在有结论了吗,想一起探讨下

xinxin12345 avatar Feb 17 '20 04:02 xinxin12345

您好,yolov3转caffemodel,用darknet和caffe跑之后对比,发现obj、w、h之间的绝对值误差蛮大的。

请问您现在有结论了吗,想一起探讨下

解决了,darknet和caffe的yolo层顺序对应上就可以,差异在0.001以下

sditeng avatar Feb 20 '20 01:02 sditeng

转换出来的顺序19 38 76是反过来的。好像是

yulinhuyang avatar May 26 '20 07:05 yulinhuyang

您好,yolov3转caffemodel,用darknet和caffe跑之后对比,发现obj、w、h之间的绝对值误差蛮大的。

请问您现在有结论了吗,想一起探讨下

解决了,darknet和caffe的yolo层顺序对应上就可以,差异在0.001以下

请问下,您具体是怎么做的呢?我这边转完前和转完后的某个类别的AP差了好几个点。

liangX-box avatar May 28 '20 05:05 liangX-box

转换出来的顺序19 38 76是反过来的。好像是

你好,能说的详细点吗?我好知道怎么去改。我转完后某个类别的AP下降了好几个点。

liangX-box avatar May 28 '20 07:05 liangX-box

maybe,yolov3 should use the anchors of yolov3,yolov4 should use the anchors of yolov4

DaChaoXc avatar Jun 02 '20 01:06 DaChaoXc

您好,yolov3转caffemodel,用darknet和caffe跑之后对比,发现obj、w、h之间的绝对值误差蛮大的。

请问您现在有结论了吗,想一起探讨下

解决了,darknet和caffe的yolo层顺序对应上就可以,差异在0.001以下

请问您是怎么解决的,我转换yolov3-tiny的时候也出了问题

liudakai2 avatar Jul 13 '20 08:07 liudakai2

将darknet和caffe网络的输出保存下来,用同一yolo层去比较就好了,差别挺小的

sditeng avatar Jul 14 '20 09:07 sditeng

将darknet和caffe网络的输出保存下来,用同一yolo层去比较就好了,差别挺小的

您好,我生成的模型运行demo时出现了core dump (segmentation fault)你们有遇到过吗,可以加个联系方式吗[email protected]

jiangkunkun1993 avatar Jan 03 '21 14:01 jiangkunkun1993

将darknet和caffe网络的输出保存下来,用同一yolo层去比较就好了,差别挺小的

您好,我生成的模型运行demo时出现了core dump (segmentation fault)你们有遇到过吗,可以加个联系方式吗[email protected]

你的量化是不是用float16呢?用16可能会出现这个问题,用int8去试试

sditeng avatar Jan 15 '21 06:01 sditeng

我用TensorRT的KL散度量化方法,量化了YOLOv3模型到int8,但是用量化后的int8进行推理,检测不到任何物体?能否指点一二,谢谢

alan8122 avatar Jan 05 '22 08:01 alan8122