MNN
MNN copied to clipboard
Android使用Vulkan推理模型,好像依然是跑在CPU上
在Android上面用Vulkan推理模型, ndk版本是android-ndk-r18b, 实际跑起来,用Kite工具查看,发现GPU的Usage一直是0。
看日志应该是获取到GPU信息了: MNNJNI : VulkanBackend::device -- Mali-G57
像这种问题要如何分析原因?
- 有可能是有 Vulkan 不支持的算子,可以加 -DMNN_VULKAN_IMAGE=false ,换成 buffer 模式试试。
- 建议用 MNN-OpenCL 进行加速
- 有可能是工具的问题。
Marking as stale. No activity in 60 days.