MNN编译模型转换工具

编译和安装 MNN

要在不同平台上编译和安装 MNN,首先需要满足以下环境要求:

  • Microsoft Visual Studio(>=2017)
  • CMake(>=3.13)
  • PowerShell
  • Ninja(构建工具,比 nmake 更快)

可以从以下链接下载 CMake 和 Ninja:

安装 Protobuf

Protobuf 是 MNN 依赖的库,确保安装 3.0 及以上版本。

bash 复制代码
# macOS
brew install protobuf

其他平台请参考 官方安装步骤

编译 MNN 主库
bash 复制代码
cd MNN
mkdir build
cd build
cmake -G "Ninja" -DMNN_BUILD_SHARED_LIBS=OFF -DMNN_BUILD_CONVERTER=ON -DCMAKE_BUILD_TYPE=Release -DMNN_WIN_RUNTIME_MT=ON ..
ninja

如遇到无法正常编译的问题,可以参考 此博客

模型转换

MNN 提供了 MNNConvert 工具,可以将其他格式的模型转换为 MNN 格式。

使用示例
bash 复制代码
Usage:
  MNNConvert [OPTION...]

  -h, --help            Convert Other Model Format To MNN Model
  -v, --version         show current version
  -f, --framework arg   model type, ex: [TF,CAFFE,ONNX,TFLITE,MNN]
      --modelFile arg   tensorflow Pb or caffeModel, ex: *.pb,*caffemodel
      --prototxt arg    only used for caffe, ex: *.prototxt
      --MNNModel arg    MNN model, ex: *.mnn
      --benchmarkModel  Do NOT save big size data, such as Conv's weight,BN's
                        gamma,beta,mean and variance etc. Only used to test
                        the cost of the model
      --bizCode arg     MNN Model Flag, ex: MNN
      --debug           Enable debugging mode.
TensorFlow/ONNX/TFLite 模型转换示例
bash 复制代码
./MNNConvert -f TF/ONNX/TFLITE --modelFile XXX.pb/XXX.onnx/XXX.tflite --MNNModel XXX.XX --bizCode XXX

例如:

bash 复制代码
./MNNConvert -f TF --modelFile path/to/mobilenetv1.pb --MNNModel model.mnn --bizCode MNN
Caffe 模型转换示例
bash 复制代码
./MNNConvert -f CAFFE --modelFile XXX.caffemodel --prototxt XXX.prototxt --MNNModel XXX.XX --bizCode XXX

例如:

bash 复制代码
./MNNConvert -f CAFFE --modelFile path/to/mobilenetv1.caffemodel --prototxt path/to/mobilenetv1.prototxt --MNNModel model.mnn --bizCode MNN
查看版本号
bash 复制代码
./MNNConvert --version

MNNDump2Json

将 MNN 模型二进制文件 dump 成可读的类 JSON 格式文件,以方便对比原始模型参数。

PyTorch 模型转换

使用 PyTorch 的 onnx.export 接口转换为 ONNX 模型文件:

python 复制代码
import torch
import torchvision

dummy_input = torch.randn(10, 3, 224, 224, device='cuda')
model = torchvision.models.alexnet(pretrained=True).cuda()

input_names = ["actual_input_1"] + ["learned_%d" % i for i in range(16)]
output_names = ["output1"]

torch.onnx.export(model, dummy_input, "alexnet.onnx", verbose=True, input_names=input_names, output_names=output_names, do_constant_folding=True)

然后将 ONNX 模型文件转换为 MNN 模型:

bash 复制代码
./MNNConvert -f ONNX --modelFile alexnet.onnx --MNNModel alexnet.mnn --bizCode MNN
相关推荐
rengang6610 分钟前
351-Spring AI Alibaba Dashscope 多模型示例
java·人工智能·spring·多模态·spring ai·ai应用编程
NewCarRen12 分钟前
整合STPA、ISO 26262与SOTIF的自动驾驶安全需求推导与验证
人工智能·安全·自动驾驶·预期功能安全
嵌入式老牛24 分钟前
1.0 机器学习实际上是什么
人工智能·机器学习
易晨 微盛·企微管家25 分钟前
汽车行业SCRM:企业微信+服务商模式破解汽车服务行业痛点的案例分析
大数据·人工智能·汽车·产品运营·企业微信
易晨 微盛·企微管家30 分钟前
生鲜电商企业微信私域代运营:从去中心化运营看微盛AI·企微管家SCRM适配案例
人工智能·微信·企业微信
李元豪1 小时前
MetaGPT、AutoGen、XAgent camel仔细对比
人工智能
AndrewHZ1 小时前
【图像处理基石】图像Inpainting入门详解
图像处理·人工智能·深度学习·opencv·transformer·图像修复·inpainting
jiushun_suanli1 小时前
PyTorch CV模型实战全流程(一)
人工智能·pytorch·python
学技术的大胜嗷1 小时前
如何裁剪YOLOv8m的大目标检测头并验证其结构
深度学习·yolo·目标检测·计算机视觉
大千AI助手1 小时前
HOSVD(高阶奇异值分解):高维数据的“解剖术”
人工智能·线性代数·矩阵·张量·svd·hosvd·高阶奇异值分解