TensorRT-Alpha icon indicating copy to clipboard operation
TensorRT-Alpha copied to clipboard

yolov8官方pytorch可以检出图片里的目标物体,采用仓库里的tensorrt加速代码无法检出

Open 1448643857 opened this issue 1 year ago • 15 comments

博主你好,我采用yolov8训练自己的数据集,同一张图片,用官方的可以检出,用仓库里的代码无法检出,请问一下可以从哪些方面进行排查?

1448643857 avatar Jan 04 '24 07:01 1448643857

@1448643857 【yolov8 tensorrt 部署自己训练的模型-哔哩哔哩】 https://b23.tv/Exkc3lt

FeiYull avatar Jan 04 '24 08:01 FeiYull

@1448643857 【yolov8 tensorrt 部署自己训练的模型-哔哩哔哩】 https://b23.tv/Exkc3lt

感谢博主,我就是按照您的步骤部署的,我自己训练的模型检测100帧的视频,yolov8官方全部能检出,tensorrt加速后只能检出95帧,且精度有所下降,我能从哪些方面排查下呢😁

1448643857 avatar Jan 05 '24 03:01 1448643857

其余5帧,官方的也能检测到目标嘛?

FeiYull @.***

------------------ 原始邮件 ------------------ 发件人: 1448643857 @.> 发送时间: 2024年1月5日 11:13 收件人: FeiYull/TensorRT-Alpha @.> 抄送: FeiYull @.>, Comment @.> 主题: Re: [FeiYull/TensorRT-Alpha] yolov8官方pytorch可以检出图片里的目标物体,采用仓库里的tensorrt加速代码无法检出 (Issue #68)

FeiYull avatar Jan 05 '24 03:01 FeiYull

官方的保存了,但是不一定有目标

FeiYull @.***

------------------ 原始邮件 ------------------ 发件人: 1448643857 @.> 发送时间: 2024年1月5日 11:13 收件人: FeiYull/TensorRT-Alpha @.> 抄送: FeiYull @.>, Comment @.> 主题: Re: [FeiYull/TensorRT-Alpha] yolov8官方pytorch可以检出图片里的目标物体,采用仓库里的tensorrt加速代码无法检出 (Issue #68)

FeiYull avatar Jan 05 '24 03:01 FeiYull

其余5帧,官方的也能检测到目标嘛? FeiYull @.*** ------------------ 原始邮件 ------------------ 发件人: 1448643857 @.> 发送时间: 2024年1月5日 11:13 收件人: FeiYull/TensorRT-Alpha @.> 抄送: FeiYull @.>, Comment @.> 主题: Re: [FeiYull/TensorRT-Alpha] yolov8官方pytorch可以检出图片里的目标物体,采用仓库里的tensorrt加速代码无法检出 (Issue #68)

是的,官方保存的图上检测到了目标,打上了矩形框,我把有差异的帧保存到本地,单独用官方的和加速的代码进行检测,官方的能够检出,加速的代码无法检出。

1448643857 avatar Jan 05 '24 03:01 1448643857

@1448643857 图能贴出来嘛?

FeiYull avatar Jan 05 '24 04:01 FeiYull

@1448643857 图能贴出来嘛?

私发给您可以不?我训练的数据集图片,我不太清楚能不能直接贴这个上面0.0

1448643857 avatar Jan 05 '24 04:01 1448643857

Q  732369616

FeiYull @.***

------------------ 原始邮件 ------------------ 发件人: 1448643857 @.> 发送时间: 2024年1月5日 12:20 收件人: FeiYull/TensorRT-Alpha @.> 抄送: FeiYull @.>, Comment @.> 主题: Re: [FeiYull/TensorRT-Alpha] yolov8官方pytorch可以检出图片里的目标物体,采用仓库里的tensorrt加速代码无法检出 (Issue #68)

FeiYull avatar Jan 05 '24 04:01 FeiYull

非常感谢,已经申请

1448643857 avatar Jan 05 '24 04:01 1448643857

@1448643857 没看到,你把iou 置信度阈值降低一点点试一试

FeiYull avatar Jan 05 '24 05:01 FeiYull

@1448643857 没看到,你把iou 置信度阈值降低一点点试一试

感谢,我开始把置信度阈值设置的0.5,现在改成0.2可以捡出来了,不过想请问一下为什么会有这么大的精度损失呢,官方捡出来置信度是0.9,加速后捡出来是0.3

1448643857 avatar Jan 06 '24 02:01 1448643857

@1448643857 注意阈值有两个。例如阈值为0.6,有时候torch推理为0.6001,trt 为0.5999(会被过滤删除),结果就是torch效果好。有的时候torch为0.5999……就是trt好。

FeiYull avatar Jan 06 '24 02:01 FeiYull

@1448643857 注意阈值有两个。例如阈值为0.6,有时候torch推理为0.6001,trt 为0.5999(会被过滤删除),结果就是torch效果好。有的时候torch为0.5999……就是trt好。

是的,同一张图片,一样的参数设置,官方推理结果0.9,加速代码推理结果只有0.3.

1448643857 avatar Jan 06 '24 03:01 1448643857

@1448643857 有差异不用太担心,是正常的,你也可以自己测个2000张图。差异原因具体参考 https://github.com/FeiYull/TensorRT-Alpha/issues/66

FeiYull avatar Jan 06 '24 03:01 FeiYull

我再使用自己训练的关键点检测模型时,也出现了这个问题pytorch能完整推理出来,但是用仓库代码无法推理完整。我将置信度调到了0.1还是一样的结果。我仅改动了数据集的labels。请问这会是什么问题 Uploading 1855c94f53f3f86ff30f379fc644c2e4.png…

kkboy771 avatar Mar 25 '24 06:03 kkboy771