onnxruntime 支持的所有后端

1 代码导出

python 复制代码
import onnxruntime as ort
aaa = ort.get_all_providers()
print(aaa)

1. 1 下面是ort支持的所有后端

shell 复制代码
'TensorrtExecutionProvider', 'CUDAExecutionProvider', 'MIGraphXExecutionProvider', 
'ROCMExecutionProvider', 'OpenVINOExecutionProvider', 'DnnlExecutionProvider', 
'TvmExecutionProvider', 'VitisAIExecutionProvider', 'NnapiExecutionProvider', 
'CoreMLExecutionProvider', 'ArmNNExecutionProvider', 'ACLExecutionProvider', 
'DmlExecutionProvider', 'RknpuExecutionProvider', 'XnnpackExecutionProvider', 
'CANNExecutionProvider', 'AzureExecutionProvider', 'CPUExecutionProvider'

1.1.1 详细介绍:

执行提供程序(Execution Provider) 描述 典型硬件 典型厂家
TensorrtExecutionProvider 利用TensorRT进行高性能推断 NVIDIA GPU NVIDIA
CUDAExecutionProvider 使用CUDA在GPU上进行推断 NVIDIA GPU NVIDIA
MIGraphXExecutionProvider 使用MIGraphX在AMD GPU上进行推断 AMD GPU AMD
ROCMExecutionProvider 在AMD ROCm平台上进行推断 AMD GPU AMD
OpenVINOExecutionProvider 使用OpenVINO进行推断 多种硬件(包括Intel CPU、GPU、FPGA等) Intel
DnnlExecutionProvider 使用DNNL进行推断 多种硬件(包括Intel CPU、GPU等) Intel
TvmExecutionProvider 使用TVM进行推断 多种硬件(包括CPU、GPU等) 社区驱动
VitisAIExecutionProvider 在Xilinx FPGA上使用Vitis AI进行推断 Xilinx FPGA Xilinx
NnapiExecutionProvider 在Android设备上使用NNAPI进行推断 Android设备 Google
CoreMLExecutionProvider 在Apple设备上使用Core ML进行推断 Apple设备 Apple
ArmNNExecutionProvider 在Arm设备上使用Arm NN进行推断 Arm设备 Arm
ACLExecutionProvider 在Arm Compute Library上进行推断 Arm设备 Arm
DmlExecutionProvider 在DirectML上进行推断 DirectX 12兼容的GPU Microsoft
RknpuExecutionProvider 在Rockchip NPU上进行推断 Rockchip NPU Rockchip
XnnpackExecutionProvider 使用XNNPack进行推断 多种硬件(包括CPU) 社区驱动
CANNExecutionProvider 在华为NPU上进行推断 华为NPU 华为
AzureExecutionProvider 在Azure平台上进行推断 多种硬件(包括CPU、GPU等) Microsoft
CPUExecutionProvider 在CPU上进行推断 CPU 多个硬件厂商

这些是典型的硬件和厂家,但请注意,具体的执行提供程序的可用性和兼容性可能会因版本、操作系统和硬件配置而有所不同。

相关推荐
.昕..12 分钟前
(二)seacmsv9注入管理员账号密码+orderby+limit
python·网络安全
HerrFu44 分钟前
可狱可囚的爬虫系列课程 17:lxml模块的使用
爬虫·python
码叔义1 小时前
X509TrustManager信任SSL证书
python·网络协议·ssl
阿波拉1 小时前
AttributeError: module ‘backend_interagg‘ has no attribute ‘FigureCanvas’问题解决
开发语言·python
m0_748247802 小时前
Python连接SQL SEVER数据库全流程
数据库·python·sql
BigBookX3 小时前
使用OpenCV来获取视频的帧率
python·opencv
蹦蹦跳跳真可爱5893 小时前
Python----计算机视觉处理(opencv:像素,RGB颜色,图像的存储,opencv安装,代码展示)
人工智能·python·opencv·计算机视觉
不会写代码的码农农3 小时前
【2025年26期免费获取股票数据API接口】实例演示五种主流语言获取股票行情api接口之沪深A股涨停股池数据获取实例演示及接口API说明文档
java·开发语言·python·股票api·股票数据接口·股票数据
BIT_Legend3 小时前
Torch 模型 model => .onnx => .trt 及利用 TensorTR 在 C++ 下的模型部署教程
c++·人工智能·python·深度学习
蹦蹦跳跳真可爱5893 小时前
Python----计算机视觉处理(Opencv:自适应二值化,取均值,加权求和(高斯定理))
人工智能·python·opencv·计算机视觉