onnxruntime 支持的所有后端

1 代码导出

python 复制代码
import onnxruntime as ort
aaa = ort.get_all_providers()
print(aaa)

1. 1 下面是ort支持的所有后端

shell 复制代码
'TensorrtExecutionProvider', 'CUDAExecutionProvider', 'MIGraphXExecutionProvider', 
'ROCMExecutionProvider', 'OpenVINOExecutionProvider', 'DnnlExecutionProvider', 
'TvmExecutionProvider', 'VitisAIExecutionProvider', 'NnapiExecutionProvider', 
'CoreMLExecutionProvider', 'ArmNNExecutionProvider', 'ACLExecutionProvider', 
'DmlExecutionProvider', 'RknpuExecutionProvider', 'XnnpackExecutionProvider', 
'CANNExecutionProvider', 'AzureExecutionProvider', 'CPUExecutionProvider'

1.1.1 详细介绍:

执行提供程序(Execution Provider) 描述 典型硬件 典型厂家
TensorrtExecutionProvider 利用TensorRT进行高性能推断 NVIDIA GPU NVIDIA
CUDAExecutionProvider 使用CUDA在GPU上进行推断 NVIDIA GPU NVIDIA
MIGraphXExecutionProvider 使用MIGraphX在AMD GPU上进行推断 AMD GPU AMD
ROCMExecutionProvider 在AMD ROCm平台上进行推断 AMD GPU AMD
OpenVINOExecutionProvider 使用OpenVINO进行推断 多种硬件(包括Intel CPU、GPU、FPGA等) Intel
DnnlExecutionProvider 使用DNNL进行推断 多种硬件(包括Intel CPU、GPU等) Intel
TvmExecutionProvider 使用TVM进行推断 多种硬件(包括CPU、GPU等) 社区驱动
VitisAIExecutionProvider 在Xilinx FPGA上使用Vitis AI进行推断 Xilinx FPGA Xilinx
NnapiExecutionProvider 在Android设备上使用NNAPI进行推断 Android设备 Google
CoreMLExecutionProvider 在Apple设备上使用Core ML进行推断 Apple设备 Apple
ArmNNExecutionProvider 在Arm设备上使用Arm NN进行推断 Arm设备 Arm
ACLExecutionProvider 在Arm Compute Library上进行推断 Arm设备 Arm
DmlExecutionProvider 在DirectML上进行推断 DirectX 12兼容的GPU Microsoft
RknpuExecutionProvider 在Rockchip NPU上进行推断 Rockchip NPU Rockchip
XnnpackExecutionProvider 使用XNNPack进行推断 多种硬件(包括CPU) 社区驱动
CANNExecutionProvider 在华为NPU上进行推断 华为NPU 华为
AzureExecutionProvider 在Azure平台上进行推断 多种硬件(包括CPU、GPU等) Microsoft
CPUExecutionProvider 在CPU上进行推断 CPU 多个硬件厂商

这些是典型的硬件和厂家,但请注意,具体的执行提供程序的可用性和兼容性可能会因版本、操作系统和硬件配置而有所不同。

相关推荐
Kratzdisteln1 分钟前
【Python OOP Diary 1.1】题目二:简单计算器,改错与优化
python·面向对象编程
小白银子9 分钟前
零基础从头教学Linux(Day 53)
linux·运维·python
skywalk816339 分钟前
基于频域的数字盲水印blind-watermark
linux·开发语言·python
applepie_max43 分钟前
GraphRAG本地部署 v2.7.0
python·rag·graphrag
sulikey1 小时前
从零配置一个规范的 Python Git 仓库(适用于 Gitee / GitHub)
git·python·pycharm·gitee·github
shaominjin1231 小时前
android在sd卡中可以mkdir, 但是不可以createNewFile
android·开发语言·python
我是华为OD~HR~栗栗呀2 小时前
华为od-22届考研-测试面经
java·c++·python·功能测试·华为od·华为·面试
学习路上_write2 小时前
神经网络初次学习收获
人工智能·python
大邳草民3 小时前
Django 的动态特性:从 Python 动态机制到框架设计思想
笔记·python·django
用户3721574261353 小时前
Python 裁剪 PDF 教程:轻松裁剪页面并导出为图片
python