mnn

MNN编译模型转换工具要在不同平台上编译和安装 MNN，首先需要满足以下环境要求：可以从以下链接下载 CMake 和 Ninja：

MNN 执行推理（九）MNN createFromBuffer（一） MNN createRuntime（二） MNN createSession 之 Schedule（三） MNN createSession 之创建流水线后端（四） MNN Session 之维度计算（五） MNN Session 之几何计算（六） MNN Session 之 CPU 算子（七） MNN Session 之 Vulkan 算子（八） MNN 执行推理（九）

MNN createSession 之创建流水线后端（四）MNN createFromBuffer（一） MNN createRuntime（二） MNN createSession 之 Schedule（三） MNN createSession 之创建流水线后端（四） MNN Session 之维度计算（五） MNN Session 之几何计算（六） MNN Session 之 CPU 算子（七） MNN Session 之 Vulkan 算子（八）

MNN createFromBuffer（一）MNN createFromBuffer（一） MNN createRuntime（二） MNN createSession 之 Schedule（三） MNN createSession 之创建流水线后端（四） MNN Session::resize 之流水线编码（五） MNN Session 创建执行器（六）

阿里巴巴淘系技术团队官网博客

mnn-llm: 大语言模型端侧CPU推理优化在大语言模型(LLM)端侧部署上，基于 MNN 实现的 mnn-llm 项目已经展现出业界领先的性能，特别是在 ARM 架构的 CPU 上。目前利用 mnn-llm 的推理能力，qwen-1.8b在mnn-llm的驱动下能够在移动端达到端侧实时会话的能力，能够在较低内存（<2G）的情况下，做到快速响应。

深度学习——第6章浅层神经网络（NN）6.1 神经网络模型概述6.2 神经网络正向传播6.3 神经网络反向传播6.4 W和b的初始化6.5 总结