Mxnet框架使用

目录

1.mxnet推理API

2.MXNET模型转ONNX

3.运行示例

1.mxnet推理API

python 复制代码
# 导入 MXNet 深度学习框架
import mxnet as mx  


if __name__ == '__main__':

    # 指定预训练模型的 JSON 文件
    json_file = 'resnext50_32x4d' 

    # 指定模型的参数文件
    params_file = 'resnext50_32x4d-0000.params'  

    # 使用 MXNet 加载模型的架构和参数
    sym, arg_params, aux_params = mx.model.load_checkpoint(json_file, 0) 
 
    # 创建一个模型对象
    mod = mx.mod.Module(symbol=sym, context=mx.cpu(), label_names=None)  
    # 绑定模型参数和输入数据的形状
    mod.bind(for_training=False, data_shapes=[('data', (1, 3, 224, 224))]) 

    # 设置模型的参数
    mod.set_params(arg_params, aux_params)
 
    # 将输入数据转换为 MXNet 的 NDArray 格式
    data = mx.nd.array(img)  

    # 使用模型进行推理,获取输出并转换为 NumPy 数组
    output = mod.predict(data).asnumpy()  

2.MXNET模型转ONNX

python 复制代码
import numpy as np
import mxnet as mx
from mxnet.contrib import onnx as onnx_mxnet


sym = "resnext50_32x4d-symbol.json"
params = "resnext50_32x4d-0000.params"
input_shape = (1 ,3 ,224 ,224)
onnx_file = './resnext50.onnx'

converted_model_path = onnx_mxnet.export_model(sym, params, [input_shape], np.float32, onnx_file)
# onnx                          1.14.0
# numpy                         1.23.2

3.运行示例

具体代码和模型见百度网盘:

https://pan.baidu.com/s/1iQELVg7xNjiIlSZZp47xag

提取码: 24ei

python 复制代码
# 导入 NumPy 库,并将其别名命名为 np
import numpy as np  
# 导入 OpenCV 库
import cv2  
 # 导入 MXNet 深度学习框架
import mxnet as mx 
# 导入时间库,用于计时
import time  


# 定义一个函数 show_top5,用于显示前5个类别及其概率
def show_top5(outputs):
    # 使用 softmax 函数对输出进行概率归一化
    output = softmax(outputs[0])  
    # 对概率从高到低排序,获取排序后的索引
    reverse_sort_index = np.argsort(output)[::-1]  
    # 打印标识,表示接下来是前5个类别
    print('-----TOP 5-----')  
    # 循环遍历前5个类别
    for i in range(5): 
        # 打印类别索引和对应的概率 
        print(reverse_sort_index[i], ':', output[reverse_sort_index[i]])  

# 定义 softmax 函数,用于计算 softmax 概率
def softmax(x):
    return np.exp(x) / sum(np.exp(x))


if __name__ == '__main__':
    # 从文件中加载图像
    img = cv2.imread('./space_shuttle_224.jpg') 

    # 对图像进行预处理,将其从 BGR 格式转换为 RGB 格式,并调整数据类型为 float32,
    # 然后进行维度转置和形状重塑,以匹配模型的输入格式 
    img = cv2.cvtColor(img, cv2.COLOR_BGR2RGB).astype('float32').transpose(2, 0, 1).reshape(1, 3, 224, 224)

    # 指定预训练模型的 JSON 文件
    json_file = 'resnext50_32x4d'  

    # 指定模型的参数文件
    params_file = 'resnext50_32x4d-0000.params'  

    # 记录开始时间
    t1 = time.time()  

    # 使用 MXNet 加载模型的架构和参数
    sym, arg_params, aux_params = mx.model.load_checkpoint(json_file, 0)

    # 创建一个模型对象  
    mod = mx.mod.Module(symbol=sym, context=mx.cpu(), label_names=None) 
 
    # 绑定模型参数和输入数据的形状
    mod.bind(for_training=False, data_shapes=[('data', (1, 3, 224, 224))]) 

    # 设置模型的参数 
    mod.set_params(arg_params, aux_params)
  
    # 将输入数据转换为 MXNet 的 NDArray 格式
    data = mx.nd.array(img)  

    # 使用模型进行推理,获取输出并转换为 NumPy 数组
    output = mod.predict(data).asnumpy()  

    # 记录结束时间
    t2 = time.time()

    # 打印推理所需的时间  
    print("inf_time:", t2 - t1) 

    # 调用显示前5个类别及其概率的函数 
    show_top5(output) 

    # 打印 "done" 表示脚本执行完成 
    print('done') 
相关推荐
Juicedata1 小时前
JuiceFS v1.3-Beta2:集成 Apache Ranger,实现更精细化的权限控制
运维·人工智能·ai
Work(沉淀版)3 小时前
DAY 40
人工智能·深度学习·机器学习
蓦然回首却已人去楼空4 小时前
Build a Large Language Model (From Scratch) 序章
人工智能·语言模型·自然语言处理
CM莫问4 小时前
<论文>(微软)WINA:用于加速大语言模型推理的权重感知神经元激活
人工智能·算法·语言模型·自然语言处理·大模型·推理加速
拾忆-eleven4 小时前
NLP学习路线图(二十六):自注意力机制
人工智能·深度学习
MYH5165 小时前
在NLP文本处理中,将字符映射到阿拉伯数字(构建词汇表vocab)的核心目的和意义
人工智能·深度学习·自然语言处理
要努力啊啊啊5 小时前
KV Cache:大语言模型推理加速的核心机制详解
人工智能·语言模型·自然语言处理
mzlogin7 小时前
DIY|Mac 搭建 ESP-IDF 开发环境及编译小智 AI
人工智能
归去_来兮7 小时前
知识图谱技术概述
大数据·人工智能·知识图谱
就是有点傻7 小时前
VM图像处理之图像二值化
图像处理·人工智能·计算机视觉