kingmacth

感觉tflite是个转换功能

Has anyone continued to update this issue? I also encountered this problem.

> > 在手机上，如果使用的是cnnn，cpu使用gpu好 我也发现了。为什么CPU速度更快。理论上应该GPU或者NNAPI更快才对。主要是我还需要跑其他业务。这个跑起来cpu就已经占了43%。

我编译提示如下错误：`[ 0%] Running C++/Python protocol buffer compiler on /home/MobileNet-YOLO-master/src/caffe/proto/caffe.proto Scanning dependencies of target caffeproto [ 0%] Building CXX object src/caffe/CMakeFiles/caffeproto.dir/__/__/include/caffe/proto/caffe.pb.cc.o [ 1%] Linking CXX static library ../../lib/libcaffeproto.a [ 1%] Built...

1. 修改CMakeLists.txt文件第33行将OFF修改ON 开启多GPU支持 2. 修改src\caffe\solver.cpp 第70行增加InitTestNets(); 解决多GPU卡顿

> 3\. 实测NNAPI确实会比GPU代理慢一点，这一点可能跟NNAPI的算子或者是tflite对GPU的专门优化 谢谢回复。 1.无是使用的同一台设备测试，所以环境相同。无是很好奇官方是怎么做大那么快到。 2.无也在想你的时间统计应该不只是推理时间。无看看能不能找到位置把图像处理时间、推理时间和后处理时间区分出来。而且这三个时间实际是可以异步并行处理到，就会快很多，图像可能会出现一两帧到延迟。 3.是否存在yolov5有nnapi不支持到算子情况。理论上应该NNAPI更快。无测试TensorFlow官方到模型都是NNAPI效率最高。

我说到官方模型是https://play.google.com/store/apps/details?id=com.ultralytics.ultralytics_app。是yolov5给出到一个yolov5s在安卓上到app。在无这台设备上可以跑到30ms。但是他们没有开源代码。所以不知道如何实现到

> 看了一下确实是29ms，快很多，有空去翻翻v5的issue和wiki看看有没有想过资料。 这两天都翻遍吧。把所有第三方实现到都跑了一遍没有能达到这个效果到。官方到偏偏不公布代码。正在联系他们看看能不能拿到。

> 你告诉我哪一条是报错 对。你这么说也有道理。不是报错。但是我运行它chrome会崩溃。提示Out of Memory。程序就结束运行了。也不会出ui界面。 我的电脑是32G内存。已使用50%。

> 和我的软件没关系，windows自动休眠了：https://blog.csdn.net/weixin_39858881/article/details/106935616 但是我早上起来重开了一个。没休眠还是在那不动