onnxruntime 支持的所有后端

1 代码导出

python 复制代码
import onnxruntime as ort
aaa = ort.get_all_providers()
print(aaa)

1. 1 下面是ort支持的所有后端

shell 复制代码
'TensorrtExecutionProvider', 'CUDAExecutionProvider', 'MIGraphXExecutionProvider', 
'ROCMExecutionProvider', 'OpenVINOExecutionProvider', 'DnnlExecutionProvider', 
'TvmExecutionProvider', 'VitisAIExecutionProvider', 'NnapiExecutionProvider', 
'CoreMLExecutionProvider', 'ArmNNExecutionProvider', 'ACLExecutionProvider', 
'DmlExecutionProvider', 'RknpuExecutionProvider', 'XnnpackExecutionProvider', 
'CANNExecutionProvider', 'AzureExecutionProvider', 'CPUExecutionProvider'

1.1.1 详细介绍:

执行提供程序(Execution Provider) 描述 典型硬件 典型厂家
TensorrtExecutionProvider 利用TensorRT进行高性能推断 NVIDIA GPU NVIDIA
CUDAExecutionProvider 使用CUDA在GPU上进行推断 NVIDIA GPU NVIDIA
MIGraphXExecutionProvider 使用MIGraphX在AMD GPU上进行推断 AMD GPU AMD
ROCMExecutionProvider 在AMD ROCm平台上进行推断 AMD GPU AMD
OpenVINOExecutionProvider 使用OpenVINO进行推断 多种硬件(包括Intel CPU、GPU、FPGA等) Intel
DnnlExecutionProvider 使用DNNL进行推断 多种硬件(包括Intel CPU、GPU等) Intel
TvmExecutionProvider 使用TVM进行推断 多种硬件(包括CPU、GPU等) 社区驱动
VitisAIExecutionProvider 在Xilinx FPGA上使用Vitis AI进行推断 Xilinx FPGA Xilinx
NnapiExecutionProvider 在Android设备上使用NNAPI进行推断 Android设备 Google
CoreMLExecutionProvider 在Apple设备上使用Core ML进行推断 Apple设备 Apple
ArmNNExecutionProvider 在Arm设备上使用Arm NN进行推断 Arm设备 Arm
ACLExecutionProvider 在Arm Compute Library上进行推断 Arm设备 Arm
DmlExecutionProvider 在DirectML上进行推断 DirectX 12兼容的GPU Microsoft
RknpuExecutionProvider 在Rockchip NPU上进行推断 Rockchip NPU Rockchip
XnnpackExecutionProvider 使用XNNPack进行推断 多种硬件(包括CPU) 社区驱动
CANNExecutionProvider 在华为NPU上进行推断 华为NPU 华为
AzureExecutionProvider 在Azure平台上进行推断 多种硬件(包括CPU、GPU等) Microsoft
CPUExecutionProvider 在CPU上进行推断 CPU 多个硬件厂商

这些是典型的硬件和厂家,但请注意,具体的执行提供程序的可用性和兼容性可能会因版本、操作系统和硬件配置而有所不同。

相关推荐
成为深度学习高手2 分钟前
CrossLinear:即插即用的跨相关嵌入,让线性模型也能用好外生变量
人工智能·python·深度学习·数据挖掘
陈年老古董40 分钟前
MediaPipe 姿态检测与脸部关键点检测
笔记·python·opencv·学习·dlib
伞伞悦读1 小时前
【第37期】Python JSON 与配置详解:序列化、反序列化、嵌套结构和配置文件
开发语言·python·json
Ticnix1 小时前
42 天 71 次提交之后,我重新看了一遍自己的架构决策
python·agent·全栈
Ticnix1 小时前
我调了三个月 overlap=50,它其实一次都没生效
后端·python·agent
DanCheng-studio1 小时前
毕设项目分享 大数据B站数据分析可视化系统
python·毕业设计·毕设
外收内放1 小时前
数据分析(jupyter与pandas初体验)
python·学习
花间相见2 小时前
【计算基础|网络04】—— HTTP接口实战(下):接口测试、鉴权与跨域排错
java·linux·人工智能·后端·python·计算机网络·postman
慧都小项2 小时前
Python 跨文件重构怎么验证?PyCharm 用法查找、重构预览与测试流程
python·重构·pycharm·单元测试
SEO_juper2 小时前
2026年用Python批量审计XML Sitemap:揪出sitemap.xml中的“配置错误/死链/过期页“(附完整代码)
java·python·seo·外贸独立站·谷歌优化