jiangfan06
jiangfan06
可以尝试更新到 2.13-rc 版本, 看看还有没有问题
请先确认一下网络问题,第三方库是否下载成功。
@ZHIZIHUABU 从报错日志上看是挂在Tim-VX库 elementwise op check,因为Tim-VX elementwise算子是不支持F32 U8的输入的。但为什么会出现这个问题从模型上看不出来,麻烦先export GLOG_v=5再运行, 保存完整的log文件发给我们,谢谢~
> 现在友什么进展吗?是否可以用paddle lite运行paddle ocr v4 模型了呢 不支持
建议参考文档:https://www.paddlepaddle.org.cn/lite/v2.12/user_guides/profiler.html。 使用 Profiler 工具分析一下具体耗时情况。
> > 建议参考文档:[https://www.paddlepaddle.org.cn/lite/v2.12/user_guides/profiler.html。](https://www.paddlepaddle.org.cn/lite/v2.12/user_guides/profiler.html%E3%80%82) 使用 Profiler 工具分析一下具体耗时情况。 > > 文档不存在 https://www.paddlepaddle.org.cn/lite/v2.12/user_guides/profiler.html
> > > > 建议参考文档:[https://www.paddlepaddle.org.cn/lite/v2.12/user_guides/profiler.html。](https://www.paddlepaddle.org.cn/lite/v2.12/user_guides/profiler.html%E3%80%82) 使用 Profiler 工具分析一下具体耗时情况。 > > > > > > > > > 文档不存在 > > > > > > https://www.paddlepaddle.org.cn/lite/v2.12/user_guides/profiler.html > > 谢谢大佬,这个带Profiler工具的推理库在发布的各版本inference_lite_lib里没有吧,得自己编译? 默认是不开启的,请参考对应的源码编译文档加上--with_profile=ON选项进行编译。
> [@MuShangCC](https://github.com/MuShangCC) 大佬我用profile看了一下测速,不知道为啥量化训练后反而网络层数更多了,而且有相同层耗时还增加了,能麻烦您看一下吗 > > [profile.txt](https://github.com/user-attachments/files/18533630/profile.txt) > > [profile_quant.txt](https://github.com/user-attachments/files/18533632/profile_quant.txt) 模型发一下?网络层数没有增加啊 看上去conv2d算子量化后确实有性能提升,但插入的calib算子使得模型推理性能反而变差了。 另外hardswish算子调用变多了,这个你看看模型吧。
> > > [@MuShangCC](https://github.com/MuShangCC) 大佬我用profile看了一下测速,不知道为啥量化训练后反而网络层数更多了,而且有相同层耗时还增加了,能麻烦您看一下吗 > > > [profile.txt](https://github.com/user-attachments/files/18533630/profile.txt) > > > [profile_quant.txt](https://github.com/user-attachments/files/18533632/profile_quant.txt) > > > > > > 模型发一下?网络层数没有增加啊 看上去conv2d算子量化后确实有性能提升,但插入的calib算子使得模型推理性能反而变差了。 > > 无量化模型picodet_xs_320_voc_lcnet 链接: https://pan.baidu.com/s/1lNNATSKgAiCb3t-IUVQtgw 提取码: uxa2 > >...
> > > > > [@MuShangCC](https://github.com/MuShangCC) 大佬我用profile看了一下测速,不知道为啥量化训练后反而网络层数更多了,而且有相同层耗时还增加了,能麻烦您看一下吗 > > > > > [profile.txt](https://github.com/user-attachments/files/18533630/profile.txt) > > > > > [profile_quant.txt](https://github.com/user-attachments/files/18533632/profile_quant.txt) > > > > > > > > > > >...