Ultra-Light-Fast-Generic-Face-Detector-1MB icon indicating copy to clipboard operation
Ultra-Light-Fast-Generic-Face-Detector-1MB copied to clipboard

Published 20 hours ago • verified publisher icon Linzaer

pc openvino 测试时间与gpu测试速度

Open Belinda-great opened this issue 4 years ago • 4 comments

1 pc 转为caffe模型后，在caffe框架下测试，version-RFB-320测试带vino的时间比不带vino的时间慢了1倍，version-slim-320测试带vino的时间比不带vino的时间快了7倍多，请问测试正常吗？ 2 在caffe框架下测试，GPU的时间和CPU的时间基本差不多 请问这是什么原因那？

Belinda-great avatar Feb 28 '20 02:02 Belinda-great

1.vino用的不多，不太清楚。 2.可能是由于模型比较小，而且主干是mb的,单位读取内存数据内的计算量不大，不能完全发挥gpu 的优势，所以和cpu差不多。

Linzaer avatar Mar 04 '20 05:03 Linzaer

请问version-RFB-320在caffe-cpu模式下速度大概是多少？为什么我测试的比pytorch框架下慢了好几倍？

hanjw123 avatar Mar 06 '20 03:03 hanjw123

1.vino用的不多，不太清楚。 2.可能是由于模型比较小，而且主干是mb的,单位读取内存数据内的计算量不大，不能完全发挥gpu 的优势，所以和cpu差不多。

非常感谢回复！框架是我们自己的，类似caffe，group>1时，框架支持不太好。

Belinda-great avatar Mar 06 '20 13:03 Belinda-great

请问version-RFB-320在caffe-cpu模式下速度大概是多少？为什么我测试的比pytorch框架下慢了好几倍？

你好，框架是我们自己的，类似caffe，速度就如上所写。

Belinda-great avatar Mar 06 '20 13:03 Belinda-great