Rotated_IoU icon indicating copy to clipboard operation
Rotated_IoU copied to clipboard

warning: missing return statement at end of non-void function "compare_vertices"

Open LUO77123 opened this issue 3 years ago • 6 comments

大佬,我在本地运行就可以,一到服务器上,就显示这个warning: missing return statement at end of non-void function "compare_vertices",还是可以install,但是运行起来就全部是nan

LUO77123 avatar Jul 25 '22 02:07 LUO77123

另外,大佬如何修改可以不用cuda加速喃

LUO77123 avatar Jul 25 '22 04:07 LUO77123

发现问题所在了,diou中w, h = enclosing_box(corners1, corners2, enclosing_type),返回的w, h会有1-2变成喃,导致后续都nan,这块代码能看是bug吗

LUO77123 avatar Jul 25 '22 07:07 LUO77123

大佬,我在本地运行就可以,一到服务器上,就显示这个warning: missing return statement at end of non-void function "compare_vertices",还是可以install,但是运行起来就全部是nan

我没遇到过这个问题。可能是环境不一致导致的。那块CUDA代码写的确实不好,所以我试着在debug branch上把它去掉了。

lilanxiao avatar Jul 26 '22 06:07 lilanxiao

发现问题所在了,diou中w, h = enclosing_box(corners1, corners2, enclosing_type),返回的w, h会有1-2变成喃,导致后续都nan,这块代码能看是bug吗

能不能提供触发这个bug的测试代码呢?我没有遇到过这个问题。

lilanxiao avatar Jul 26 '22 06:07 lilanxiao

发现问题所在了,diou中w, h = enclosing_box(corners1, corners2, enclosing_type),返回的w, h会有1-2变成喃,导致后续都nan,这块代码能看是bug吗

能不能提供触发这个bug的测试代码呢?我没有遇到过这个问题。

大佬,我是将你的代码替换yolov5的box计算,进行旋转检测,避免nan修改如下 image 但是网络学习不到东西 image

我在尝试一下debug版本,

LUO77123 avatar Jul 26 '22 07:07 LUO77123

发现问题所在了,diou中w, h = enclosing_box(corners1, corners2, enclosing_type),返回的w, h会有1-2变成喃,导致后续都nan,这块代码能看是bug吗

能不能提供触发这个bug的测试代码呢?我没有遇到过这个问题。

iou_loss查了,有一个nan,反查是W里面出现一个nan image 继续查, image 接着是 image 应该是 ----》 proj = point_line_projection_range(lines, points) # (..., 24) 里面有问题

LUO77123 avatar Jul 26 '22 07:07 LUO77123