MNN icon indicating copy to clipboard operation
MNN copied to clipboard

Android使用Vulkan推理模型,好像依然是跑在CPU上

Open Jverson opened this issue 10 months ago • 2 comments

在Android上面用Vulkan推理模型, ndk版本是android-ndk-r18b, 实际跑起来,用Kite工具查看,发现GPU的Usage一直是0。

看日志应该是获取到GPU信息了: MNNJNI : VulkanBackend::device -- Mali-G57

像这种问题要如何分析原因?

Jverson avatar Apr 25 '24 12:04 Jverson

  1. 有可能是有 Vulkan 不支持的算子,可以加 -DMNN_VULKAN_IMAGE=false ,换成 buffer 模式试试。
  2. 建议用 MNN-OpenCL 进行加速
  3. 有可能是工具的问题。

jxt1234 avatar Apr 29 '24 02:04 jxt1234

Marking as stale. No activity in 60 days.

github-actions[bot] avatar Jun 28 '24 09:06 github-actions[bot]