PaddleX
PaddleX copied to clipboard
onnxruntime作为高性能推理后端时,期望新增对npu的支持
Checklist:
- [x] 查找历史相关issue寻求解答
- [x] 翻阅FAQ
- [x] 翻阅PaddleX 文档
- [x] 确认bug是否在新版本里还未修复
描述问题
目前onnxruntime已经有了对华为npu的支持,希望后续paddlex在使用onnxruntime作为高性能推理后端时,增加对npu的支持。 华为npu-onnxruntime适配样例: https://onnxruntime.ai/docs/execution-providers/community-maintained/CANN-ExecutionProvider.html