onnxruntime 支持的所有后端

1 代码导出

python 复制代码
import onnxruntime as ort
aaa = ort.get_all_providers()
print(aaa)

1. 1 下面是ort支持的所有后端

shell 复制代码
'TensorrtExecutionProvider', 'CUDAExecutionProvider', 'MIGraphXExecutionProvider', 
'ROCMExecutionProvider', 'OpenVINOExecutionProvider', 'DnnlExecutionProvider', 
'TvmExecutionProvider', 'VitisAIExecutionProvider', 'NnapiExecutionProvider', 
'CoreMLExecutionProvider', 'ArmNNExecutionProvider', 'ACLExecutionProvider', 
'DmlExecutionProvider', 'RknpuExecutionProvider', 'XnnpackExecutionProvider', 
'CANNExecutionProvider', 'AzureExecutionProvider', 'CPUExecutionProvider'

1.1.1 详细介绍:

执行提供程序(Execution Provider) 描述 典型硬件 典型厂家
TensorrtExecutionProvider 利用TensorRT进行高性能推断 NVIDIA GPU NVIDIA
CUDAExecutionProvider 使用CUDA在GPU上进行推断 NVIDIA GPU NVIDIA
MIGraphXExecutionProvider 使用MIGraphX在AMD GPU上进行推断 AMD GPU AMD
ROCMExecutionProvider 在AMD ROCm平台上进行推断 AMD GPU AMD
OpenVINOExecutionProvider 使用OpenVINO进行推断 多种硬件(包括Intel CPU、GPU、FPGA等) Intel
DnnlExecutionProvider 使用DNNL进行推断 多种硬件(包括Intel CPU、GPU等) Intel
TvmExecutionProvider 使用TVM进行推断 多种硬件(包括CPU、GPU等) 社区驱动
VitisAIExecutionProvider 在Xilinx FPGA上使用Vitis AI进行推断 Xilinx FPGA Xilinx
NnapiExecutionProvider 在Android设备上使用NNAPI进行推断 Android设备 Google
CoreMLExecutionProvider 在Apple设备上使用Core ML进行推断 Apple设备 Apple
ArmNNExecutionProvider 在Arm设备上使用Arm NN进行推断 Arm设备 Arm
ACLExecutionProvider 在Arm Compute Library上进行推断 Arm设备 Arm
DmlExecutionProvider 在DirectML上进行推断 DirectX 12兼容的GPU Microsoft
RknpuExecutionProvider 在Rockchip NPU上进行推断 Rockchip NPU Rockchip
XnnpackExecutionProvider 使用XNNPack进行推断 多种硬件(包括CPU) 社区驱动
CANNExecutionProvider 在华为NPU上进行推断 华为NPU 华为
AzureExecutionProvider 在Azure平台上进行推断 多种硬件(包括CPU、GPU等) Microsoft
CPUExecutionProvider 在CPU上进行推断 CPU 多个硬件厂商

这些是典型的硬件和厂家,但请注意,具体的执行提供程序的可用性和兼容性可能会因版本、操作系统和硬件配置而有所不同。

相关推荐
曲径海盗2 小时前
【Python 学习第 28 天】字符串基础
python·学习笔记·编程入门
for_ever_love__3 小时前
LangChain 模型参数调优:temperature、max_tokens 这些到底怎么设
python·语言模型·langchain·aigc·模型参数·temperature·max_tokens
LONGZHIQIN3 小时前
Python学习笔记
笔记·python·学习
雪碧透心凉_3 小时前
PythonWin32API窗口与鼠标操作
开发语言·python·计算机外设
MoRanzhi12033 小时前
第 9 篇 · 数值计算与图像处理:NumPy、SciPy、Pillow
图像处理·python·数值计算·numpy·pillow·信号处理·scipy
2601_962885723 小时前
如何用 Python 计算BRAR 情绪指标(AR/BR)?
python·ar·restful
DeepVisionary3 小时前
几句人话就能拆解任何软件,几天破十万星的开源工具让开发者慌了
python·自动化
回眸&啤酒鸭3 小时前
【回眸】HireKey 智能招聘全流程应用场景
开发语言·人工智能·python
打工仔折腾 AI3 小时前
CentOS 7 单机部署 Elasticsearch 7.17.29:启动报错排查与 CRUD 验证
人工智能·后端·python·elasticsearch·性能优化·centos·jenkins
hhzz3 小时前
【YOLO 入门到精通 11】进阶任务实战:分割、姿态、OBB 与深度估计
人工智能·python·yolo·计算机视觉·目标跟踪