4.4 获取onnx每个节点的输出结果

前言

获取onnx每个节点的结果,进行输出显示、保存

Code

cpp 复制代码
import os
import onnx
import onnx.helper as helper
import onnxruntime
from collections import OrderedDict
import  numpy as np

def get_onnx_node_out(onnx_file, save_onnx):
    model = onnx.load(onnx_file)
    out_names=[]
    for i, node in enumerate(model.graph.node):
        out_names.append(node.output[0])
    for out_name in out_names:
        intermediate_layer_value_info = helper.ValueInfoProto()
        intermediate_layer_value_info.name = out_name
        model.graph.output.append(intermediate_layer_value_info)
    onnx.save(model, save_onnx)

def onnxruntime_infer(onnx_path, input_data, output_name="output"):
 
    session = onnxruntime.InferenceSession(onnx_path, providers=['CPUExecutionProvider'])
    input_name = session.get_inputs()[0].name
    outputs = [x.name for x in session.get_outputs()]
    print("onnx input_name:", input_name)
    print("onnx outputs:", outputs)
    ort_outs = session.run(outputs, {input_name: input_data})
    ort_outs = OrderedDict(zip(outputs, ort_outs))
 
    # For debug
    for key in ort_outs:
        val = ort_outs[key]
        file = "./onnx_output/"+ key.split("/")[-1] +".npy"
        np.save(file, val, allow_pickle=True, fix_imports=True)
     
if __name__ == '__main__':

    base_path = "./"
    onnx_file = os.path.join(base_path,"example4.onnx")
    save_onnx = os.path.join(base_path,"example4_out.onnx")
    get_onnx_node_out(onnx_file, save_onnx)

    path = "./10.npy"  # 
    input_data = np.load(path)
    print(f"input_data shape:{input_data.shape}")

    onnxruntime_infer(save_onnx, input_data)   

总结

  • 相关代码简单运用
相关推荐
费弗里18 分钟前
Python全栈应用开发利器Dash 3.x新版本介绍(2)
python·dash
吴佳浩36 分钟前
Python入门指南-AI番外-MCP完整教程:从零开始学会Model Context Protocol
人工智能·python·mcp
加油吧zkf1 小时前
目标检测新纪元:DETR到Mamba实战解析
图像处理·人工智能·python·目标检测·分类
程序员阿超的博客1 小时前
Python 数据分析与机器学习入门 (五):Matplotlib 数据可视化基础
python·信息可视化·数据分析·matplotlib·数据可视化·python教程·pyplot
站大爷IP2 小时前
Python 办公实战:用 python-docx 自动生成 Word 文档
python
MO2T2 小时前
使用 Flask 构建基于 Dify 的企业资金投向与客户分类评估系统
后端·python·语言模型·flask
慢热型网友.2 小时前
用 Docker 构建你的第一个 Python Flask 程序
python·docker·flask
Naiva2 小时前
【小技巧】Python + PyCharm 小智AI配置MCP接入点使用说明(内测)( PyInstaller打包成 .exe 可执行文件)
开发语言·python·pycharm
云动雨颤2 小时前
Python 自动化办公神器|一键转换所有文档为 PDF
运维·python
梅孔立2 小时前
yum update 报错 Cannot find a valid baseurl for repo: centos-sclo-rh/x86_64 等解决办法
linux·python·centos