MTK G99 OpenCL 运行速度差于其CPU推理

Open rk764457656 opened this issue 2 months ago • 2 comments

你好，我在mtk的芯片搞9上测试opencl后端，GPU runSession()需要2.5s，但是CPU耗时1.5s，请问这个正常吗？测试都是循环100次的统计结果，排除Warming up的影响

Oct 13 '25 09:10 rk764457656

可以看下模型中是不是有opencl不支持的算子，打开source/backend/opencl/core/OpenCLBackend.cpp中的OPENCL_FALLBACK_LOG，编译运行会打印出opencl不支持的算子。

Oct 22 '25 08:10 Qxinyu

好的，感谢

Oct 30 '25 06:10 rk764457656

MTK G99 OpenCL 运行速度 差于 其CPU推理