TinyML Agent 就是部署在 STM32 这类资源受限 MCU 单片机上的轻量化 AI 智能体。它把 Agent 感知‑推理‑状态记忆‑执行链路做极致裁剪，不跑大语言模型，专门用来实现工业现场本地闭环控制，是 AI Agent 下沉到终端硬件的底层实现方案。
摘要 ：很多人聊 AI 智能体下沉，默认想到 Linux、安卓端侧大模型。但在工业嵌入式场景，大量实时控制任务运行在几百 KB 内存的 MCU 芯片上，对应的实现就是 TinyML Agent（微型机器学习智能体）。
1. 什么是 TinyML Agent
传统云端 Agent 依靠大模型，具备长记忆、多步规划、工具调用、自然语言交互，消耗巨大显存与内存。
TinyML Agent 面向微控制器 MCU 的端侧智能体实现：
- 模型：经过剪枝、int8 量化的 TinyML 极小模型，主要做时序预测、异常检测
- Agent 框架做重度裁剪，移除 LLM 自然语言能力 ，保留最小核心链路：
传感器采集(感知) → TinyML本地推理(判断) → 短状态记忆 → 外设IO输出(执行) - 运行载体：Cortex‑M 系列 MCU（STM32H7 为主），内存仅几百 KB 级别
关键区分：TinyML 只是 AI 推理模型；TinyML Agent = TinyML 模型 + 感知采集 + 状态管理 + 硬件执行逻辑。
2. TinyML Agent 完整工作流程（以 AI 液位控制举例）
- 感知：周期性读取液位传感器时序数据
- 本地推理：TinyML 模型预测液位变化趋势，识别异常扰动
- Agent 状态记忆：保存当前设备工况：补水、排水、待机等有限状态
- 本地执行：直接输出 GPIO 信号，控制水泵、阀门动作
- 事件上报：仅告警、统计事件上传云端，原始传感数据保存在本地
断网状态下整套链路完全独立运行，不依赖云端。复杂策略、模型参数更新，由云端下发至 MCU。
3. TinyML Agent 硬件硬件门槛，哪些芯片可以跑？
- 最低可用基线：RAM ≥512KB，具备 FPU 浮点单元，推荐 STM32H7 系列
- STM32F1/F4：RAM 不足，仅可跑简单规则，无法完整运行 TinyML Agent
- STM32N6：内置硬件 NPU，可以承载更大规模 TinyML 推理，但依然不能跑 LLM
- 软件依赖：FreeRTOS 等 RTOS 实时操作系统，保障控制调度确定性
- 模型权重存放于外部 Flash，运行时加载到 RAM 做推理
4. TinyML Agent vs 完整端侧 Agent (PDA/Linux MPU)
表格
| 对比项 | TinyML Agent（STM32‑MCU） | 完整端侧 Agent（工业 PDA/Linux MPU） |
|---|---|---|
| 硬件平台 | Cortex‑M MCU，几百 KB RAM | ARM MPU，4GB + 内存，内置 NPU |
| 模型能力 | TinyML 小模型，无 LLM | 支持轻量化 LLM |
| Agent 能力 | 感知、轻量推理、短状态记忆、硬件执行 | 多步规划、工具调用、长记忆、自然语言交互 |
| 系统角色 | 底层实时控制小脑 | 上层运维大脑 |
| 网络依赖 | 断网完全独立闭环 | 断网能力受限 |
| 典型场景 | 液位控制、泵阀调控、振动故障检测 | 现场故障诊断，多设备协同运维 |
5. 在 Agent 下沉架构中的位置
AI 智能体下沉分为两个层级：
- 下沉到 MCU 芯片 = TinyML Agent：承担硬实时现场控制，适合液位、泵阀、电机振动检测；
- 下沉到 MPU/PDA = 完整轻量化 Agent：负责运维分析、多设备协同决策；
工程落地模式（如欧立腾 ALTEN 的工程服务）：把云端 Agent 业务逻辑拆分，将实时闭环部分做量化、裁剪，移植为 TinyML Agent 部署在 STM32；复杂规划逻辑保留在云端或者上层 PDA，实现端云协同。
6. 真实工业落地案例
案例 1：野外水务泵站液位控制
野外 4G 网络不稳定，TinyML Agent 部署在 STM32H7 控制板。本地读取液位数据，AI 预判水位走势，自主启停水泵阀门，杜绝溢水、干抽事故。网络断开依旧维持闭环，仅异常告警上报云端。
案例 2：电机预测性维护
MCU 采集振动、温度时序数据，TinyML Agent 本地完成波形分析，识别轴承早期磨损故障，就地触发预警。不需要源源不断上传海量原始振动数据，降低流量与云端存储开销。
7. 常见误区
- ❌误区：TinyML Agent 可以运行大语言模型 ✅事实：MCU 内存资源不足以承载 LLM，只能做时序预测、异常识别，没有对话能力。
- ❌误区：只要支持 TinyML 就等于拥有 Agent 能力 ✅事实：单纯 TinyML 模型只有推理；Agent 必须叠加感知、状态管理、硬件执行逻辑。
- ❌误区：STM32N6 带 NPU 就可以实现完整 Agent ✅事实：NPU 加速推理，推理能力变强，但仍然缺少大模型，只能做微型 Agent。
FAQ
Q1：TinyML Agent 和普通 TinyML 有什么区别？
A1：TinyML 是 AI 模型；TinyML Agent 是完整智能体，包含数据采集、状态管理、硬件执行，模型只是推理组件。
Q2：STM32F4 能不能跑 TinyML Agent？
A2：RAM 资源不足，仅可跑简单阈值规则，无法完成完整 TinyML Agent 闭环。优先选用 STM32H7。
Q3：TinyML Agent 一定要 RTOS 吗？
A3：工业控制场景强烈建议 RTOS，保障推理、IO 控制调度的实时确定性；裸机也可实现，但时序稳定性差。
Q4：TinyML Agent 是不是就不需要云端？
A4：不是。本地负责实时闭环；云端负责模型迭代、参数下发、全局统计，属于端云协同架构。