Paddle-Lite 请教一个问题：类型不匹配时自动在prior_box前插入calib int8->float32算子而不是分割子图如何实现的

请教一个问题：类型不匹配时自动在prior_box前插入calib int8->float32算子而不是分割子图如何实现的

Open personqianduixue opened this issue 2 years ago • 4 comments

我正在适配新的硬件intel_fpga，使用的网络是ssd-mobilenetv1。使用opt转化后，如下。ssd的prior_box算子需要的输入类型为float32，而子图的输入需要是int8。可以看到，由于类型不匹配，这些conv算子没有纳入同一个子图，而是被分割成了多个子图，并在每个子图前自动插入了calib：float32->int8算子，相似的issue(https://github.com/PaddlePaddle/Paddle-Lite/issues/9119) 并没有解决我的问题。这不是我想要的，这样运算效率不高，造成了额外的数据传输开销：

我用opt转化的时候valid_targets设置成imagination_nna,arm或者apu,arm，转化后的nb模型如下，可以看到，所有的conv算子都合并到一个子图里面了，并自动在prior_box和其他类似的算子前插入了calib：int8->float32算子，这种转化方式才是我想要的，请教一下这是如何实现的？

以下是我使用的静态图模型和三种硬件（intel_fpga，imagination_nna，apu）的nb模型：量化的静态图模型.zip 3种硬件的nb模型.zip

Jun 30 '22 09:06 personqianduixue

您好，我们已经收到了您的问题，会安排技术人员尽快解答您的问题，请耐心等待。请您再次检查是否提供了清晰的问题描述、复现代码、环境&版本、报错信息等。同时，您也可以通过查看官网文档、常见问题、历史Issue来寻求解答。祝您生活愉快～

Hi! We've received your issue and please be patient to get responded. We will arrange technicians to answer your questions as soon as possible. Please make sure that you have posted enough message to demo your request. You may also check out the API，FAQ and Github Issue to get the answer.Have a nice day!