RapidAI
很开心看到您又更新了，但是还是想问一个问题
cuda不是通用的库(比如AMD、Intel、高通、MTK、三星等都不能使用)。 它不开源，即使有高手能移植到其它GPU，甚至可能被NVIDIA起诉。 当前cuda需要配合NVIDIA的GPU(显卡)，而安卓平台没有NVIDIA的产品，所以不支持安卓。
原来如此，那为什么ncnn会有gpu模式呢？onnxruntime不能做到吗
------------------ 原始邮件 ------------------ 发件人: "benjamin @.>; 发送时间: 2025年3月12日(星期三) 下午4:50 收件人: @.>; 抄送: @.>; @.>; 主题: Re: [RapidAI/OnnxruntimeBuilder] 很开心看到您又更新了，但是还是想问一个问题 (Issue #6)
cuda不是通用的库(比如AMD、Intel、高通、MTK、三星等都不能使用)。 它不开源，即使有高手能移植到其它GPU，甚至可能被NVIDIA起诉。 当前cuda需要配合NVIDIA的GPU(显卡)，而安卓平台没有NVIDIA的产品，所以不支持安卓。
— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: @.***> benjaminwan left a comment (RapidAI/OnnxruntimeBuilder#6)
cuda不是通用的库(比如AMD、Intel、高通、MTK、三星等都不能使用)。 它不开源，即使有高手能移植到其它GPU，甚至可能被NVIDIA起诉。 当前cuda需要配合NVIDIA的GPU(显卡)，而安卓平台没有NVIDIA的产品，所以不支持安卓。
— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: @.***>
onnxruntime支持的移动平台GPU或NPU也有： https://onnxruntime.ai/docs/execution-providers/#summary-of-supported-execution-providers 种类比较多，但这些都依赖于特定的硬件或特定的库，难以直接通过pc交叉编译。
比如高通的QNN，瑞芯微的RKNPU ，苹果IOS的CoreML，华为的CANN。 每种设备都得在自己的开发环境下进行编译，通俗一点说就是很零碎，没有一个统一的加速库。
而ncnn是用了vulkan这个通用图形库来做加速，大部分手机都支持vulkan，所以能做到通用，但缺点是性能不如专用的加速库。
原来如此 谢谢老哥指点！
------------------ 原始邮件 ------------------ 发件人: "benjamin @.>; 发送时间: 2025年3月12日(星期三) 下午5:01 收件人: @.>; 抄送: @.>; @.>; 主题: Re: [RapidAI/OnnxruntimeBuilder] 很开心看到您又更新了，但是还是想问一个问题 (Issue #6)
onnxruntime支持的移动平台GPU或NPU也有： https://onnxruntime.ai/docs/execution-providers/#summary-of-supported-execution-providers 种类比较多，但这些都依赖于特定的硬件或特定的库，难以直接通过pc交叉编译。
— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: @.***> benjaminwan left a comment (RapidAI/OnnxruntimeBuilder#6)
onnxruntime支持的移动平台GPU或NPU也有： https://onnxruntime.ai/docs/execution-providers/#summary-of-supported-execution-providers 种类比较多，但这些都依赖于特定的硬件或特定的库，难以直接通过pc交叉编译。
— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: @.***>
您好老哥，ncnn有vulkan，为什么onnxruntime在安卓平台不能编译一个vulkan的库呢？
https://github.com/microsoft/onnxruntime onnxruntime不支持vulkan，但是你可以尝试去微软的官方仓库提要求，让它支持，然后我这里就可以编译了。