ONNX 的核心原理

ONNX:

把不同深度学习框架里的模型,统一描述成一种标准的计算图。

YOLO模型原来是PyTorch的yolo.pt,里面包含:

网络结构和权重

导出ONNX后,会把Pytorch中的网络计算过程转换成ONNX能理解的标准结构。

ONNX模型主要包含三类东西:

计算图:规定数据按什么顺序流动。

算子:例如Conv、Add、Mul、Concat、Resize。

参数/权重:例如卷积核权重、Bias等。

ONNX本质上不是一个训练框架,而更像一个中间标准格式。

Pytorch-->.pt-->.onnx--> TensoRT/openVINO/Sophon/ONNX Runtime

它解决的问题是不同框架、不同硬件之间直接转换很麻烦。ONN在中间充当翻译。

拿一个简单卷积网络来说,PyTorch的代码可能是:

x = conv(x)

x = relu(x)

x = pool(x)

导出ONNX后,不再关心这段PyTorch Python代码,而变成:

Input

Conv

Relu

MaxPool

Output

部署框架读取这个计算图,就知道先做卷积、再做激活、再做池化。

因此,ONNX的运行逻辑就是:

输入 Tensor

按照计算图执行算子

读取模型权重参与计算

生成中间 Tensor

继续执行下一个算子

最终输出

相关推荐
回眸&啤酒鸭12 小时前
【回眸】Minicart 电商购物车核心功能落地指南
人工智能
一隅论数智12 小时前
给AI一张“业务概念地图“:本体如何从哲学走向企业智能
大数据·人工智能·经验分享·笔记·学习·学习方法·政务
AI的探索之旅12 小时前
97 个 OpenCV 实例(三十):双目立体,从标定到点云
人工智能·opencv·计算机视觉
AlbertZein12 小时前
Step-5-Preview 上手实测:3D 游戏、金融分析、网页设计一次跑完
人工智能·aigc
LaughingZhu12 小时前
Product Hunt 每日热榜 | 2026-09-19
人工智能·深度学习·神经网络·搜索引擎·百度
美狐美颜SDK开放平台13 小时前
开发直播APP时如何接入视频美颜SDK?开发流程与注意事项
android·人工智能·计算机视觉·音视频·直播美颜sdk
wukangjupingbb13 小时前
智能网联汽车安全能力框架
人工智能
龙亘川13 小时前
明月照湾区,智启新赛道:从顶流文旅IP盛会看智慧文旅升级路径
人工智能·智慧城市·开源软件·数据可视化
飞猫的边缘AI13 小时前
边缘AI应用:家用AI摄像头怎么做数据训练?
人工智能·边缘计算·ai算法·边缘ai