ncnn-android-yolov5 icon indicating copy to clipboard operation
ncnn-android-yolov5 copied to clipboard

yolov5ncnn实时检测

Open yao-zheng-yi opened this issue 4 years ago • 52 comments

nihui 你好,我尝试使用了yolov5ncnn,检测精度相比其他yolov5的Android实现都要高,但是我尝试进行摄像头实时检测,FPS不到5帧,和其他开源的yolov5项目速度差不多。

但是YOLOv5作者开发的IOS端应用iDetection也是用YOLOv5进行摄像头实时检测,其FPS在30左右,有几个问题我不太明白。

一、请问为什么在Android和IOS上YOLOv5的检测速度会相差这么多? 二、我发现基于NCNN进行YOLOv5检测时,分别从YOLOv5的三个输出层提取结果是最耗时间的(代码为ex.extract("output", out);),请问有什么方法能够对它进行优化加快检测速度吗?

期待nihui的解答!

yao-zheng-yi avatar Nov 07 '20 08:11 yao-zheng-yi

nihui 你好,我尝试使用了yolov5ncnn,检测精度相比其他yolov5的Android实现都要高,但是我尝试进行摄像头实时检测,FPS不到5帧,和其他开源的yolov5项目速度差不多。

但是YOLOv5作者开发的IOS端应用iDetection也是用YOLOv5进行摄像头实时检测,其FPS在30左右,有几个问题我不太明白。

一、请问为什么在Android和IOS上YOLOv5的检测速度会相差这么多? 二、我发现基于NCNN进行YOLOv5检测时,分别从YOLOv5的三个输出层提取结果是最耗时间的(代码为ex.extract("output", out);),请问有什么方法能够对它进行优化加快检测速度吗?

期待nihui的解答!

nihui未到,我先来了...

  1. 我的ipad Air2上面运行yolov5s的帧率也才4.4FPS而已,竟然跟iphone差别这么大? image

2.大佬能提供一下yolov5 ncnn android实时监测的app吗,nihui这个是检测图片嘛,感觉检测视频更实用

wwdok avatar Nov 07 '20 11:11 wwdok

1.我在iPad 2020上yolov5s的帧率在30左右,不知道你为什么会那么慢 2.实时检测的帧率在3帧左右,没办法达到实时的效果,我是个菜鸟,刚接触这个,现在还没办法成功生成apk,只能真机调试,见谅

yao-zheng-yi avatar Nov 08 '20 02:11 yao-zheng-yi

@wwdok 链接:https://pan.baidu.com/s/1-UL_UIlu8NGxiTS0pzkB6w 提取码:rxgl 复制这段内容后打开百度网盘手机App,操作更方便哦

yao-zheng-yi avatar Nov 08 '20 03:11 yao-zheng-yi

谢谢分享,我也发现nihui的这个yolov5比另一个yolov5 android要高,速度的话你发的这个我看不出FPS多少,但卡顿情况目测起来差不多,所以我也很好奇nihui的这个为什么比cmdbug的效果好很多,而且我发现nihui的yolov5s.bin大小才14M多,cmdbug的yolov5s.bin有27M多。我还没深入研究两者的差别,大佬@cmdbug ,您有空瞧一瞧吗? image image

wwdok avatar Nov 08 '20 07:11 wwdok

精度:实际上考虑到速度问题模型真正传入的是320x320而不是640x640。(nihui的好像是动态尺寸输入还是啥的,忘了) 体积:转换过程 .pt->onnx->onnxsim->ncnn,中间没用到量化,fp16等。 默认使用cpu运行,gpu如果新的话可以试试用gpu看下速度。

cmdbug avatar Nov 09 '20 02:11 cmdbug

@nihui 哈喽,有空能看看我的问题吗?

yao-zheng-yi avatar Nov 10 '20 01:11 yao-zheng-yi

硬件不一样没有可比性啊

nihui avatar Nov 10 '20 02:11 nihui

硬件不一样没有可比性啊

  1. Android的硬件是华为Nova 6,FPS在5左右,iOS是iPhone SE,FPS在28左右,确实是有差距不好比较,但是感觉差的有点多。
  2. 第二个问题就是基于NCNN进行YOLOv5检测时,分别从YOLOv5的三个输出层提取结果是最耗时间的(代码为ex.extract("output", out);),请问有什么方法能够对它进行优化加快检测速度吗?

yao-zheng-yi avatar Nov 10 '20 03:11 yao-zheng-yi

@wwdok 链接:https://pan.baidu.com/s/1-UL_UIlu8NGxiTS0pzkB6w 提取码:rxgl 复制这段内容后打开百度网盘手机App,操作更方便哦

@yao-zheng-yi 你好,这个链接失效了,能否再重新发一下调用摄像头的yolov5-ncnn?我的邮箱:[email protected] 十分感谢!

flying-hou avatar Nov 29 '20 08:11 flying-hou

@yao-zheng-yi 你的iphone SE能达到 28帧吗?我用华为P40测试的是4帧左右,是否测试方法有差异?

yl1994yl avatar Jan 04 '21 09:01 yl1994yl

nihui 你好,我尝试使用了yolov5ncnn,检测精度相比其他yolov5的Android实现都要高,但是我尝试进行摄像头实时检测,FPS不到5帧,和其他开源的yolov5项目速度差不多。

但是YOLOv5作者开发的IOS端应用iDetection也是用YOLOv5进行摄像头实时检测,其FPS在30左右,有几个问题我不太明白。

一、请问为什么在Android和IOS上YOLOv5的检测速度会相差这么多? 二、我发现基于NCNN进行YOLOv5检测时,分别从YOLOv5的三个输出层提取结果是最耗时间的(代码为ex.extract("output", out);),请问有什么方法能够对它进行优化加快检测速度吗?

期待nihui的解答!

您好,能否再分享一下yolov5-ncnn调用摄像头的源码 如果您方便的话能否发送至邮箱[email protected]

Hugo-cheng avatar Jan 07 '21 13:01 Hugo-cheng

@wwdok 链接:https://pan.baidu.com/s/1-UL_UIlu8NGxiTS0pzkB6w 提取码:rxgl 复制这段内容后打开百度网盘手机App,操作更方便哦

你好,大佬,这个链接过期了,可以分享新的分享链接吗?我的邮箱是:[email protected]

ashing-zhang avatar Feb 19 '21 14:02 ashing-zhang

@wwdok 链接:https://pan.baidu.com/s/1-UL_UIlu8NGxiTS0pzkB6w 提取码:rxgl 复制这段内容后打开百度网盘手机App,操作更方便哦

您好,大佬,这个链接过期了,可以分享新的分享链接吗?我的邮箱是:[email protected]

davidfrz avatar Mar 02 '21 05:03 davidfrz

https://github.com/nihui/ncnn-android-nanodet 推荐这个例子,nanodet实时检测

nihui avatar Mar 16 '21 15:03 nihui

@wwdok 链接:https://pan.baidu.com/s/1-UL_UIlu8NGxiTS0pzkB6w 提取码:rxgl 复制这段内容后打开百度网盘手机App,操作更方便哦

大佬您好,这个链接失效了,能否再重新发一下调用摄像头的yolov5-ncnn?我的邮箱:[email protected] 十分感谢!

hygxy avatar Aug 26 '21 02:08 hygxy

大佬,链接过过期了 ,很想学习这个视频流demo,麻烦分享下 我的邮箱:[email protected]

WJH625421781 avatar Feb 11 '22 11:02 WJH625421781

我已收到

ashing-zhang avatar Feb 11 '22 11:02 ashing-zhang

我已收到

兄弟,可以发我一份吗

WJH625421781 avatar Feb 11 '22 11:02 WJH625421781

我已收到 @ashing-zhang 兄弟,可以发我一份吗 [email protected]

WJH625421781 avatar Feb 11 '22 11:02 WJH625421781

我已收到 @ashing-zhang 兄弟,可以发我一份吗 [email protected]

兄弟求一份 [email protected]

ZZR2021 avatar Mar 29 '22 08:03 ZZR2021

我已收到

兄弟求一份 [email protected]

ZZR2021 avatar Mar 29 '22 08:03 ZZR2021

我已收到

求一份谢谢![email protected]

yukinolove8 avatar Apr 27 '22 06:04 yukinolove8

我已收到

ashing-zhang avatar Apr 27 '22 06:04 ashing-zhang

我已收到

兄弟,可以分享下给我一份么,[email protected];谢谢你!

KeVincechen avatar Aug 16 '22 09:08 KeVincechen

我已收到

ashing-zhang avatar Aug 16 '22 09:08 ashing-zhang

@wwdok 链接:https://pan.baidu.com/s/1-UL_UIlu8NGxiTS0pzkB6w 提取码:rxgl 复制这段内容后打开百度网盘手机App,操作更方便哦

您好,大佬,这个链接过期了,可以分享新的分享链接吗?我的邮箱是:[email protected]

KeVincechen avatar Aug 17 '22 01:08 KeVincechen

我已收到

兄弟,可以分享下给我一份么,[email protected];谢谢你!

KeVincechen avatar Aug 17 '22 01:08 KeVincechen

@wwdok 链接:https://pan.baidu.com/s/1-UL_UIlu8NGxiTS0pzkB6w 提取码:rxgl 复制这段内容后打开百度网盘手机App,操作更方便哦

大佬您好,这个链接失效了,能否再重新发一下调用摄像头的yolov5-ncnn?我的邮箱:[email protected] 十分感谢!

KeVincechen avatar Aug 17 '22 01:08 KeVincechen

您好,麻烦您分享下yolov5实时检测部分demo,我这边邮箱没收到,谢谢了!!

在 2022-08-16 17:51:27,ashing-zhang @.***> 写道:

我已收到

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you commented.Message ID: @.***>

KeVincechen avatar Oct 11 '22 06:10 KeVincechen

我已收到

ashing-zhang avatar Oct 11 '22 06:10 ashing-zhang