Agent Runtime 中的 Code-driven Assembly

一个运行时角色至少包含这些东西:

  • 它什么时候被选中。
  • 它能看什么上下文。
  • 它能看见哪些工具。
  • 它能不能执行动作。
  • 它执行动作前是否需要审批。
  • 它每一步如何停止、重试、降级。
  • 它最后必须交付什么结构。
  • 它出错后如何追踪和修复。
  • 它优化以后,如何证明没有影响其他 Agent。

这些问题都不是静态 Prompt 能独立解决的。

没有 Code-driven Assembly,多个 Agent 很容易变成"多个不同人设的聊天窗口"。有了 Code-driven Assembly,Agent 才能成为一个可治理、可复现、可测试、可持续优化的运行时组件。

一、先把 Agent Runtime 拆开看

要讲清楚 Code-driven Assembly,先要把单个 Agent Runtime 的层次讲清楚。很多争论来自一个误解:把 Agent Runtime 等同于 LLM 调用,或者等同于 Prompt。

一个实用的 Agent Runtime 至少有 9 层:

text 复制代码
User Turn
  -> Router
  -> AgentDefinition
  -> Assembly
  -> PromptCompiler
  -> Model Call
  -> Tool Loop
  -> Final Projector
  -> Trace / Eval

每层职责不同。

层级 负责什么 常见错误
User Turn 接收用户输入、附件、选择资源、会话状态 只把用户文本当输入
Router 决定哪个 Agent 处理 用关键词硬分流
AgentDefinition 描述 Agent 的稳定身份和默认能力 只有一个 prompt 文件
Assembly 动态决定本轮上下文、工具、策略、循环 分散在各处临时拼
PromptCompiler 把结构化 sections 编译成模型输入 各业务代码自己拼字符串
Model Call 调模型 把模型当成权限和流程引擎
Tool Loop 执行工具、观察结果、重试或停止 模型可见工具和实际可执行工具不一致
Final Projector 把模型输出投影成产品结果 直接把模型自由文本返回给用户
Trace / Eval 记录、复现、诊断、回归 只存最终答案,不存装配过程

这里最容易被低估的是 Assembly 层。

相关推荐
货拉拉技术1 小时前
资损下降 99.96% 的背后: AI 资损防控平台实战
后端
用户8358086187912 小时前
撮合引擎 OrderBook 的 100ns 之路:无锁 RingBuffer + 伪共享消除,Go 1.22 下单 op 11ns
后端
用户881863001362 小时前
用Node.js写一个简单的API请求日志中间件
后端
用户8358086187912 小时前
Go 高并发下的“内存刺客“:自研 Size-Class 无锁对象池,把 sync.Pool 的 P99 从 128μs 压到 41μs
后端
货拉拉技术2 小时前
资损下降 99.96% 的背后— AI 资损防控平台实战
后端
山水洛行4 小时前
AI Agent 智能体记忆:从检索到被治理的数据系统
后端
卷无止境4 小时前
C++20 的概念与约束:让模板编程终于"说人话"
后端
Ai拆代码的曹操4 小时前
一次排查三种连接泄漏模式,再也不怕 HikariCP 连接池爆满了
后端
咪库咪库咪4 小时前
Cypher入门
后端