nanodet icon indicating copy to clipboard operation
nanodet copied to clipboard

如何在600 MHz的Cortex-M7上部署运行

Open RockySong opened this issue 4 years ago • 2 comments

你好,看到这个模型很受启发,我想把这个模型迁移成识别少量交通控制标志,用于智能车的竞赛中。使用的器件是i.MX RT1062,它的CPU是600MHz的arm Cortex-M7,大约有等效的2个int16 MAdd每周期,利用率约30%多点。也可以考虑更高性能的i.MX RT1176,1GHz Cortex-M7。 但麻烦的是这种IoT用途的芯片不能运行Linux和ncnn,但是能使用GLOW模型编译器编译onnx模型为目标文件,或者把Keras格式的模型翻译成命令列表后并使用一个解释引擎去执行。 基于这种条件,想请问有什么推荐的思路去移植吗?

RockySong avatar Dec 06 '20 12:12 RockySong

如果cpu或者 mcu 上面有 NPU 协处理器之类的话,厂商一般会有关于如果将神经网络移植到板子上的示例,比如隔壁 K210 芯片,就有相关的示例和库(nncase),stm32 好像也有(X-Cube-AI 啥的)。如果没有 NPU 或者 示例的话,那就要自己写引擎去使用模型参数来执行相关运算了。

Qinka avatar Mar 20 '22 15:03 Qinka

谢谢!后来我们找到了这个模型转换成.tflite的形式,然后使用TF lite micro引擎去部署了。

RockySong avatar Mar 27 '22 01:03 RockySong