【从零构建AI Code终端系统】03 -- Agent 循环:一个 while 就是全部

03 -- Agent 循环:一个 while 就是全部

7 行代码

上一章结尾留了一个问题:bash 只能执行一次,然后呢?

答案是把它放进循环:

复制代码
while true:
    response = model(messages, tools)
    if no tool_calls in response:
        break
    for call in response.tool_calls:
        result = execute(call)
        messages.append(result)

这就是 agent 的全部。学术界叫它 ReAct(Reasoning + Acting),但名字不重要。重要的是------循环内部没有一行 if/else 决定"下一步做什么"。

用什么工具、以什么顺序、什么时候停------全部由模型决定。代码只做三件事:调用模型、执行工具、把结果喂回去。
Agent 循环
输入与上下文
最终响应
推理 LLM
工具选择
工具执行


核心命题:零分支

数一下这 7 行里有几处代码在做任务级判断。零处。

循环越短,agent 越聪明。 每往里加一行 if/else,就从模型手里夺走一个决策权。"如果文件不存在就搜索"------听上去合理,但你在用硬编码规则替代推理。你能预见 50 种情况,模型面对的是无限种。第 51 种到来时,你的规则沉默了,模型不会。

退出条件同理。循环什么时候停?当模型的响应不再包含 tool_calls 时。不是计时器到了,不是执行次数到了上限------是模型自己判断任务完成了,选择返回文本而不是继续调用工具。

你写的每一行分支逻辑,都是在用有限规则替代无限推理。保持循环极简,把决策空间完整地留给模型。


自愈:循环的免费副产品

用户说"帮我跑测试":

复制代码
轮次 1: "好,先跑测试看看"
        --> bash("npm run test")
        --> 报错: "Cannot find module './utils'"

轮次 2: "找不到 utils?看看这个文件"
        --> read_file("src/utils.ts")
        --> 报错: "File not found"

轮次 3: "不存在?可能被移动了,搜一下"
        --> grep("utils", "src/")
        --> 结果: src/lib/utils.ts

轮次 4: "原来搬到 lib 下了,改引用"
        --> edit_file("src/index.ts", "./utils" -> "./lib/utils")

轮次 5: "改完了,再验证"
        --> bash("npm run test")
        --> "All tests passed"

没有一行重试代码,没有一个 catch 块,没有"如果 test 失败就搜索文件"的预设规则。模型看到错误输出,理解含义,调整策略,再试一次。整个行为 100% 来自推理,0% 来自预编程。

这就是上一章坚持"不抛异常,结构化返回"的原因。exit code + stdout + stderr 被追加到消息历史,成为下一轮推理的输入------错误信息从终点变成路标。


中间件:洋葱模型

循环建立了。但模型每次被调用时,请求先穿过一层层中间件:

复制代码
请求进入 -->
  [ 中间件 A ]
    [ 中间件 B ]
      [ 中间件 C ]
        === 模型调用 ===
      [ 中间件 C ]
    [ 中间件 B ]
  [ 中间件 A ]
<-- 响应返回

每个中间件有两次介入机会------进去的路上和出来的路上。

前与后

进去的路上(调用前):修改即将送达模型的消息。注入技能列表、裁剪过长上下文、检查是否需要压缩------模型还没看到这些消息,你有完全的编辑权。

出来的路上(调用后):处理模型返回的响应。记录 token 消耗、检测暂时性错误决定是否重试、提取结构化数据------响应已经产生,你有完全的审计权。

后续每引入一个新能力,几乎都落在这两个时机上:

  • 技能注入?调用前,把可用技能列表塞进消息。
  • 上下文压缩?调用前,把过长的历史替换为摘要。
  • Token 追踪?调用后,从响应里提取用量数据。
  • 重试?调用后,判断是否限流或超时,决定是否退避重发。

一个典型的中间件:

复制代码
function retryMiddleware(next):
    for attempt in range(maxRetries):
        response = next(request)
        if response is not transient_error:
            return response
        wait(exponential_backoff(attempt))
    return last_response

它不知道 next 里面是另一个中间件还是真正的模型调用。不关心请求内容,不关心上一层做了什么。只管一件事:失败就重试。

组装

把工具、中间件和循环拼在一起:

复制代码
function createAgent(modelRoute, tools, middlewares):
    model = getModel(modelRoute)         // 第 01 章的路由
    chain = compose(middlewares, model)   // 洋葱
    return Agent(chain, tools)           // 带循环的实例

三行。模型从路由来(第 01 章),工具从注册来(第 02 章),中间件堆叠成洋葱。后续每引入一个新能力,都是往这个函数里安装一个新零件------要么是一个新工具,要么是一层新中间件。


小结

循环给模型行动力,中间件给系统扩展力。但行动力没有方向感,就是原地打转------循环跑多了,早期意图被调试日志和错误信息淹没,注意力漂移不可避免。


相关推荐
飞哥数智坊30 分钟前
一只虾到多只虾:先聊聊我为什么要“拆虾”
人工智能
飞哥数智坊36 分钟前
架构图 SKILL 封装好了,顺便做了虾的适配
人工智能
冬奇Lab42 分钟前
Code Agent 解剖(16):AgentTeams——为什么一个 agent 不够用?
人工智能
BreezeJiang42 分钟前
大模型为什么能记住上一轮?从 InMemoryChatMessageHistory 看对话 Memory
llm·agent
东风破_1 小时前
聊天记录越来越长怎么办?从消息数量截断到 Token 截断
人工智能
冬奇Lab1 小时前
开源项目第204期:LoopX — 长周期 Agent 控制平面,跑在 Codex/Claude Code 之上的状态管理层
人工智能·开源
ZGIAI1 小时前
旧模型下线前,客服 Agent 怎么迁移
人工智能·架构
东风破_1 小时前
程序重启后,AI 为什么把你忘了?从 InMemory 到持久化 Memory
人工智能
ZGIAI2 小时前
客服知识库更新后,怎么批量验收
人工智能·架构
Asize2 小时前
AI 协作开发新范式:我用 SDD 做了个排版 npm 包
前端·人工智能