AI Agent 工程实践(35):我的 AI Engineering OS 最终架构

发布时间:2026-08-12

标签:AI Agent|工程实践|架构设计|AI Engineering OS

系列:AI Agent 工程实践

上一篇:第 34 篇《企业 AI Agent 架构》

下一篇:第 36 篇《不要再写 Agent 教程------先定义一个真实问题》


三年前我开始做 Agent 的时候,最困惑我的不是"模型能力不够"。

而是:我明明今天调好了一个 Agent,明天换个任务它又不行了;这个项目里总结的经验,换到下一个项目全要重来。

我像是一个每天都在"从零搭积木"的工程师------每搭完一座,下一座又从第一块开始。

35 篇之前,我讲了很多零件:Knowledge、Rules、Runtime、Memory、Review、Provider、Tools。它们单个都能跑,但一直没有一根主线把它们串成一个整体。

直到我意识到:我缺的不是更多零件,而是一套"操作系统"------让这些零件自己运转、自己进化。

于是有了今天这篇收官:AI Engineering OS 的最终架构。


一、开场:从 00 到 35,我们搭了什么

回到第 00 篇的提问:"为什么我要构建 AI Engineering OS?"当时说,工具在疯狂进化,但怎么工程化管理 Agent、让它持续变好,没人系统讲。

35 篇走完,现在我们可以给出答案的全貌------一套把知识、规则、运行时、记忆、复盘、供给、工具串成一个自进化闭环的操作系统式框架。

这条路不是线性的,它分成了四个清晰的阶段,每一阶段都解决上一阶段暴露的问题:

阶段 篇目范围 解决什么 留下的问题
第一阶段:理念与架构 00--09 为什么需要 OS、五层架构长什么样 只有骨架,没有血肉
第二阶段:基础组件 02--06、10、15 Rules/Memory/Knowledge/Review 怎么组织 组件齐全,但怎么跑起来?
第三阶段:Agent Runtime 07--08、11--14、16--19 Planner/Context/State/Tool 怎么运行 能跑,但怎么上生产?
第四阶段:企业级工程化 21--35 Provider/Memory/Logging/Observability/部署监控 零件齐了,缺一根主线
第五阶段:实战项目 36--50(预告) 把理论落成完整项目 ------

上篇(34)画了企业架构,这篇把它收进 AI Engineering OS,做第四阶段收官。第五阶段起,我们将拿一个真实问题(仓库诊断 Agent),把这套 OS 从头到尾走一遍。


二、问题背景:散点知识 vs 操作系统式框架

学完前三阶段(组件)和第四阶段(工程化),你手里有一堆零件:Knowledge、Rules、Runtime、Memory、Review、Provider、Tools。但它们之间的关系、谁驱动谁进化,需要一根主线串起来------否则只是"又会了七个概念"。

这个困境,我相信每一个认真学完组件的人都经历过。它的具体症状有三条:

症状一:知识是死的,不会流动。 你整理了一堆领域知识放进了 Knowledge 库,但它们只是"躺在那里"。今天 Agent 答错了一个问题,这个教训不会自动回流到知识库里------你只能靠人肉去改。

症状二:规则是静态的,不会进化。 你精心设计了一套 Rules,但它们不会因为运行结果而变好。Agent 在这个项目里踩过的坑,下个项目完全不记得。

症状三:组件之间没有"共识"。Memory 记它的,Review 复盘它的,Runtime 跑它的------三者之间没有一条自动的管道把"运行经验"传回"规则和知识"。

这三个症状指向同一个本质:

你搭的不是一个系统,而是一堆零件的集合。零件再多,不会自己动,就不是系统。

AI Engineering OS 就是来解决这个本质问题的:把 Agent 从"一次写好的程序"升级成"会持续自我改进的系统"。

我见过太多人停在"零件集合"这一步------因为他们以为"把组件用起来"就是终点了。但真正的分水岭在于:你的 Agent 会不会从自己的运行中变强? 会,才是 OS;不会,就是框架用法。


三、关键观察:七支柱 + 一个反馈闭环

整个 OS 由 7 大支柱构成,并由一条 Review → 改进 的闭环驱动进化:

复制代码
Knowledge  ──┐
Rules      ──┼─→ Runtime ─→ Memory ─→ Provider ─→ Tools
Review     ──┘        ↑                        │
   └──────────────────┴──── 反馈改进 ──────────┘

下面逐个展开,讲清每一支柱"是什么、为什么需要、在系列哪篇论证过":

支柱 1:Knowledge(知识)------ Agent 的"课本"

企业/领域知识源,RAG 的输入。它是 Agent 回答问题的依据,没有它,Agent 只能靠模型自己的"常识"------而常识在垂直领域里几乎必然不够用。

设计要点:Knowledge 不是"一堆文档",而是有治理的知识------有分层、有版本、有质量评估(呼应第 15 篇"RAG 真正的瓶颈不是检索,而是知识治理")。一段脏知识进库,比没有知识更糟,因为它会让 Agent 自信地错。

支柱 2:Rules(规则)------ Agent 的"纪律"

可执行的约束,分层加载。核心价值在第 02 篇论证过:规则必须分层(core 常驻 / heavy 按需),否则上下文会被规则淹没。Rules 是 Agent 的行为底线,也是后面"Review 反馈闭环"的主要落点之一------复盘发现的错误模式,最终会沉淀成一条新规则。

支柱 3:Runtime(运行时)------ Agent 的"中枢"

编排中枢,把 Knowledge、Rules、Memory、Provider、Tools 对齐成一次执行。它对应第 22 篇的"项目分层"和第 34 篇的"企业架构"里的编排层。Runtime 是七支柱里最"重"的一根------它决定了任务怎么被拆、状态怎么流转、工具怎么调度。

支柱 4:Memory(记忆)------ Agent 的"经验"

用户与会话的长期记忆。它分两层:短期(会话内状态)和长期(跨会话的用户画像、历史结论)。设计要点在第 03、10 篇展开过:Memory 不属于 Agent,应独立成服务------因为记忆要跨会话存活,不能被 Agent 的一次运行带走。

支柱 5:Review(复盘)------ Agent 的"进化引擎"

每天/每轮回顾,把失败与新模式沉淀回 Knowledge/Rules。这是整个 OS 最关键的支柱(呼应第 04 篇"为什么 AI Agent 必须每天复盘")。没有 Review,七支柱就只是一个静态架构图;有 Review,它才变成活系统。

支柱 6:Provider(供给)------ Agent 的"引擎舱"

模型抽象层,让 LLM 可替换(呼应第 23 篇)。为什么必须抽象?因为"换模型"在 Agent 时代是常态操作------今天 DeepSeek 便宜、明天新模型更强。如果没有 Provider 层,每次换模型都要改业务代码;有了它,换模型只是改一行配置。

支柱 7:Tools(工具)------ Agent 的"手脚"

外部能力注册表,统一调度(呼应第 24 篇)。工具不是散落的函数,而是 Tool → Registry → Permission → Schema → Executor 的统一管理。工具系统决定了 Agent 能"碰到"世界的哪些部分。

闭环是灵魂

闭环是灵魂:Runtime 跑出的结果和经验,经 Review 提炼,反哺 Knowledge 和 Rules------系统越用越聪明,而不是越用越乱。这正是"Engineering OS"区别于"又一个 Agent 框架"的地方。

为了说清楚这个闭环的价值,我讲一个没有闭环时的真实场景:

你的客服 Agent 今天答错了一个问题:把"退款时效"说成了"7 个工作日",实际是 3 个。如果没有 Review 闭环,这个错误会永远存在------每次有人问退款时效,它都错。但如果有闭环:晚上 Review 跑一遍今天的对话,发现这个错误,把它提炼成一条规则"退款时效为 3 个工作日(紧急单 1 个工作日)",写回 Rules。明天,Agent 就再也不会答错。这就是"越用越聪明"。


四、最终方案:OS 总架构

4.1 总架构图(Mermaid)

对比第 01 篇的五层架构(Knowledge→Rules→Agent→Project→Review),这里用第四阶段的工程化语言重述:Agent 层 = Runtime + Memory + Provider + Tools,Project 层 = 一次具体业务编排,Review 仍是闭环的发动机

4.2 第二张图:一次任务在 OS 里的完整旅程(ASCII 图)

发布提示:此图可用 draw.io / ProcessOn 重画成正式架构图,与上方 Mermaid 图形成"图 1 + 图 2"的发布配图组合。

复制代码
用户提问
   │
   ▼
┌─────────────┐    加载     ┌─────────────┐
│   Runtime   │ ──────────→ │  Rules      │  行为约束
│  (编排中枢) │            └─────────────┘
└──────┬──────┘
       │ 检索
       ▼
┌─────────────┐            ┌─────────────┐
│  Knowledge  │            │   Memory    │
│  (知识源)  │            │  (长期记忆) │
└──────┬──────┘            └──────┬──────┘
       │                          │
       ▼                          ▼
┌─────────────┐    调用     ┌─────────────┐
│  Provider   │ ──────────→ │    LLM      │
│ (模型抽象)  │            └─────────────┘
└──────┬──────┘
       │ 需要工具
       ▼
┌─────────────┐    执行     ┌─────────────┐
│    Tools    │ ──────────→ │  外部系统    │
│  (工具注册表)│            └─────────────┘
└──────┬──────┘
       │ 运行结果 + 经验
       ▼
┌─────────────┐    提炼     ┌─────────────┐
│   Review    │ ──────────→ │ Knowledge/  │
│  (每日复盘) │            │ Rules 更新   │
└─────────────┘            └─────────────┘

这张图的关键,是最后一条"回旋箭头"------从 Review 回到 Knowledge/Rules。没有这条回旋,图就是一个"单向数据流";有了它,才是"自进化闭环"。


五、代码与配置示例

5.1 最小可运行骨架(目录)

复制代码
ai_os/
├── knowledge/     # 知识源 + 检索
├── rules/         # 分层规则 core/heavy
├── runtime/       # 编排中枢
├── memory/        # 记忆服务
├── provider/      # 模型抽象层
├── tools/         # 工具注册表
├── review/        # 复盘与沉淀
└── config.yaml    # 全局配置

5.2 配置串起七支柱

复制代码
knowledge: { source: enterprise_wiki, top_k: 5 }
rules: { core: always, heavy: on_demand }
runtime: { max_steps: 12 }
memory: { backend: redis, ttl: 30d }
provider: { default: deepseek, fallback: openai }
tools: { registry: enabled }
review: { cadence: daily }

5.3 闭环的核心实现:Review 如何反哺 Rules

很多人问:"闭环"到底在代码里长什么样?这里给一个最小可运行的示例------每天复盘时,扫描 Agent 的错误,提炼成规则写回规则库:

复制代码
# ai_os/review/engine.py ------ 闭环的核心:失败 → 提炼 → 沉淀
import yaml

def run_daily_review(logs: list[dict], rules_path: str) -> int:
    """扫描今日 Agent 日志,找出错误模式,沉淀为规则"""
    failures = [log for log in logs if log["verdict"] == "wrong"]
    new_rules = []
    for fail in failures:
        # 1. 定位错误模式(简化:关键词匹配)
        pattern = extract_error_pattern(fail["query"], fail["answer"])
        if not pattern:
            continue
        # 2. 去重:已有规则就不重复沉淀
        if pattern in load_rules(rules_path):
            continue
        # 3. 沉淀为一条 heavy 规则
        new_rules.append({"rule": pattern, "source": "review", "created": today()})

    if new_rules:
        append_rules(rules_path, new_rules)   # 写回规则库
    return len(new_rules)

# 使用:每天定时跑一次
def cron_daily():
    logs = load_yesterday_logs()          # 读昨天的执行日志
    added = run_daily_review(logs, "rules/heavy.yaml")
    logger.info(f"今日复盘:沉淀 {added} 条新规则")

这段代码就是"越用越聪明"的最朴素实现:错误不删除,而是被转化为规则,永久留在系统里。 你的 Agent 明天遇到同样问题,Rules 层会直接约束它,不再重蹈覆辙。


六、设计权衡:为什么是"OS"而不是"又一个框架"

维度 普通 Agent 框架 AI Engineering OS
关注点 怎么调用模型/工具 怎么让系统持续变好
知识管理 散落 prompt Knowledge 治理 + 演化
进化机制 无/手动 Review 闭环自动沉淀
差异化 套用模板 业务规则与记忆是资产

判断标准:如果你的 Agent 写完就定型、改一次靠人肉,那是"框架用法";如果它每天从运行中学到东西、自动改进规则与知识,那才是"Engineering OS"。

但这里有一条必须诚实的边界------不是所有项目都需要 OS

场景 用框架就够了 需要 OS
任务规模 一次性、线性、固定流程 多轮、多任务、长期演进
知识量 少量静态 prompt 大量领域知识、需持续更新
演进需求 写完不改 需要从运行中学习
团队规模 个人实验 团队/企业级资产沉淀

判断公式:如果你的 Agent 每天产生新的失败、新的知识、新的规则,而你又没有一条自动管道把这些沉淀回去,那你就已经在"需要 OS"的区间了。 反过来说,如果你只是搭一个 demo 跑一次,硬套 OS 七支柱,就是过度工程------这也正是第 36 篇要讲的"先选对问题"。


七、常见误区(FAQ)

Q1:AI Engineering OS 是不是就要搭一个很大的系统?

不是。OS 的核心是"闭环"这个机制,不是组件数量。最小形态可以是:一个 Runtime + 一个 Review 脚本 + 一个规则文件。组件可以少,闭环不能没有。

Q2:Review 是必须每天跑吗?

按你的数据量来。任务量大的每天,小项目每周也行。关键是"定期",不是"实时"------复盘是批处理,不需要介入每一次运行。

Q3:Rules 会不会越积越多,最后又变成上下文灾难?

会,这正是 Rules 必须分层的理由(呼应第 02 篇)。沉淀的规则进 heavy(按需加载),只有最核心的进 core(常驻)。另外,Review 里应该有一道"规则清理":长期没触发、或已被新规则覆盖的旧规则,标记淘汰。

Q4:这个 OS 和 LangGraph / 其他框架冲突吗?

不冲突。LangGraph 解决"运行时编排"这一层(Runtime 支柱可以用它实现);AI Engineering OS 是更高一层的"系统架构"------它定义组件之间的关系和进化机制,不绑定具体实现。


八、总结

  • ✅ 35 篇走完,AI Engineering OS = 七支柱(Knowledge/Rules/Runtime/Memory/Review/Provider/Tools)+ 一个 Review 驱动的反馈闭环。
  • ✅ 闭环是灵魂:Runtime 经验经 Review 反哺 Knowledge/Rules,系统越用越聪明。
  • ✅ 它区别于"又一个框架":核心是"持续自我改进",不是"怎么调模型"。
  • ✅ 最小形态:一个 Runtime + 一个 Review 脚本 + 一个规则文件,机制比数量重要。
  • ✅ 呼应全系列:Runtime(22/34)、Review(04)、Provider(23)、Tools(24)、Knowledge(06/15)、Rules(02)、Memory(03/10)。

系列第四阶段(21--35)至此完结。 从"Demo 永远变不成生产"到"我的 AI Engineering OS 最终架构",我们一起把零件拼成了能上线、能监控、能进化的企业 Agent 系统。

下一步,第五阶段「企业级实战项目」将拿一个真实问题(仓库诊断 Agent Repo Doctor),把这套 OS 从头到尾走一遍:选问题、拆需求、画架构、做 MVP、踩失败、建评估、上生产。


参考资料(带用途说明)

  • 本系列(01)整体架构设计:本文七支柱是对(01)五层架构的工程化重述。
  • 本系列(04)Review------为什么必须每天复盘:闭环发动机的来源。
  • 本系列(02)Rules 分层 /(03)Memory 设计 /(06)Knowledge 演化:三根支柱的原始论证。
  • 本系列(23)Provider /(24)Tool Registry /(22)分层:Runtime 调用的下游组件。
  • 本系列(34)企业 AI Agent 架构:本文 OS 总图是(34)企业图的"操作系统式"收口。

系列导航

本文是 AI Agent 工程实践 系列的第 35 篇(第四阶段第十五篇,阶段收官)。

相关推荐
陈年老古董14 分钟前
深度学习入门笔记:从神经元到深度神经网络
人工智能·笔记·深度学习·神经网络·学习
ZGIAI25 分钟前
ZGI Workflow:外部接口成功后,任务状态怎么落下来
人工智能·架构
ZGIAI27 分钟前
ZGI Agent 发布:配置改了,线上为何还是旧版本
人工智能·架构
richard_first43 分钟前
英伟达“循环融资”AI实验室:模式解析与行业影响
人工智能
2601_955662461 小时前
短视频配音 7 款测评:旁白情绪、断句、呼吸感完整打分
人工智能·音视频·语音识别
whcyhhh1 小时前
头歌实践教学平台:数据科学与大数据技术导论(十六)
大数据·开发语言·python
宸津-代码粉碎机1 小时前
AI工程化高阶实战|从Demo到生产落地核心架构、全套源码与避坑指南
java·大数据·开发语言·人工智能·python·架构
智码看视界1 小时前
Edge AI 全栈1:ESP32 传感器采集到云端大模型推理的完整链路
人工智能·物联网·嵌入式·esp32·aiot·全栈开发·edgeai
MartinYeung51 小时前
Uniswap v4 许可池:重塑 DeFi 流动性管理的范式革命
人工智能·区块链