benjamin wan
benjamin wan
看了,这里有误,需要把这几行去掉。
cuda和cudnn版本很多,跟onnxruntime的版本配合,需要根据官方提供的表格去搭配。 https://onnxruntime.ai/docs/execution-providers/CUDA-ExecutionProvider.html#cuda-12x 另外cuda不开源,同一个版本比如cuda12.8,在不同架构(3种架构),不同的linux系统(12种linux)下的库文件也不一样。 linux系统:x86_64平台有12个,arm64-sbsa平台2个,aarch64-jetson平台2种,一共16个 windows系统:一共4个 也就是说onnxruntime1.20+cuda12.8这个组合就需要编译20个包。  cuda版本跟显卡驱动也是需要配合的,比如部署的系统的显卡驱动已经以root权限装好了,开发者只有user权限不能更改驱动,但驱动又要求配合cuda12.1或者12.2或者12.3,那么这样又得重新编译,算下去就没完没了。
安卓平台没有cuda。 NVIDIA没有推出支持安卓平台的GPU。