【从零构建AI Code终端系统】03 -- Agent 循环:一个 while 就是全部

03 -- Agent 循环:一个 while 就是全部

7 行代码

上一章结尾留了一个问题:bash 只能执行一次,然后呢?

答案是把它放进循环:

复制代码
while true:
    response = model(messages, tools)
    if no tool_calls in response:
        break
    for call in response.tool_calls:
        result = execute(call)
        messages.append(result)

这就是 agent 的全部。学术界叫它 ReAct(Reasoning + Acting),但名字不重要。重要的是------循环内部没有一行 if/else 决定"下一步做什么"。

用什么工具、以什么顺序、什么时候停------全部由模型决定。代码只做三件事:调用模型、执行工具、把结果喂回去。
Agent 循环
输入与上下文
最终响应
推理 LLM
工具选择
工具执行


核心命题:零分支

数一下这 7 行里有几处代码在做任务级判断。零处。

循环越短,agent 越聪明。 每往里加一行 if/else,就从模型手里夺走一个决策权。"如果文件不存在就搜索"------听上去合理,但你在用硬编码规则替代推理。你能预见 50 种情况,模型面对的是无限种。第 51 种到来时,你的规则沉默了,模型不会。

退出条件同理。循环什么时候停?当模型的响应不再包含 tool_calls 时。不是计时器到了,不是执行次数到了上限------是模型自己判断任务完成了,选择返回文本而不是继续调用工具。

你写的每一行分支逻辑,都是在用有限规则替代无限推理。保持循环极简,把决策空间完整地留给模型。


自愈:循环的免费副产品

用户说"帮我跑测试":

复制代码
轮次 1: "好,先跑测试看看"
        --> bash("npm run test")
        --> 报错: "Cannot find module './utils'"

轮次 2: "找不到 utils?看看这个文件"
        --> read_file("src/utils.ts")
        --> 报错: "File not found"

轮次 3: "不存在?可能被移动了,搜一下"
        --> grep("utils", "src/")
        --> 结果: src/lib/utils.ts

轮次 4: "原来搬到 lib 下了,改引用"
        --> edit_file("src/index.ts", "./utils" -> "./lib/utils")

轮次 5: "改完了,再验证"
        --> bash("npm run test")
        --> "All tests passed"

没有一行重试代码,没有一个 catch 块,没有"如果 test 失败就搜索文件"的预设规则。模型看到错误输出,理解含义,调整策略,再试一次。整个行为 100% 来自推理,0% 来自预编程。

这就是上一章坚持"不抛异常,结构化返回"的原因。exit code + stdout + stderr 被追加到消息历史,成为下一轮推理的输入------错误信息从终点变成路标。


中间件:洋葱模型

循环建立了。但模型每次被调用时,请求先穿过一层层中间件:

复制代码
请求进入 -->
  [ 中间件 A ]
    [ 中间件 B ]
      [ 中间件 C ]
        === 模型调用 ===
      [ 中间件 C ]
    [ 中间件 B ]
  [ 中间件 A ]
<-- 响应返回

每个中间件有两次介入机会------进去的路上和出来的路上。

前与后

进去的路上(调用前):修改即将送达模型的消息。注入技能列表、裁剪过长上下文、检查是否需要压缩------模型还没看到这些消息,你有完全的编辑权。

出来的路上(调用后):处理模型返回的响应。记录 token 消耗、检测暂时性错误决定是否重试、提取结构化数据------响应已经产生,你有完全的审计权。

后续每引入一个新能力,几乎都落在这两个时机上:

  • 技能注入?调用前,把可用技能列表塞进消息。
  • 上下文压缩?调用前,把过长的历史替换为摘要。
  • Token 追踪?调用后,从响应里提取用量数据。
  • 重试?调用后,判断是否限流或超时,决定是否退避重发。

一个典型的中间件:

复制代码
function retryMiddleware(next):
    for attempt in range(maxRetries):
        response = next(request)
        if response is not transient_error:
            return response
        wait(exponential_backoff(attempt))
    return last_response

它不知道 next 里面是另一个中间件还是真正的模型调用。不关心请求内容,不关心上一层做了什么。只管一件事:失败就重试。

组装

把工具、中间件和循环拼在一起:

复制代码
function createAgent(modelRoute, tools, middlewares):
    model = getModel(modelRoute)         // 第 01 章的路由
    chain = compose(middlewares, model)   // 洋葱
    return Agent(chain, tools)           // 带循环的实例

三行。模型从路由来(第 01 章),工具从注册来(第 02 章),中间件堆叠成洋葱。后续每引入一个新能力,都是往这个函数里安装一个新零件------要么是一个新工具,要么是一层新中间件。


小结

循环给模型行动力,中间件给系统扩展力。但行动力没有方向感,就是原地打转------循环跑多了,早期意图被调试日志和错误信息淹没,注意力漂移不可避免。


相关推荐
AI_小站3 小时前
6个GitHub爆火的免费大模型教程,助你快速进阶AI编程
人工智能·langchain·github·知识图谱·agent·llama·rag
xindoo3 小时前
GitHub Trending霸榜!深度解析AI Coding辅助神器 Superpowers
人工智能·github
时间之里3 小时前
【深度学习】:RF-DETR与yolo对比
人工智能·深度学习·yolo
北京阿法龙科技有限公司3 小时前
数智化升级:AR 智能眼镜驱动工业运维效能革新
人工智能
风落无尘3 小时前
《智能重生:从垃圾堆到AI工程师》——第二章 概率与生存
大数据·人工智能
j_xxx404_3 小时前
Linux:静态链接与动态链接深度解析
linux·运维·服务器·c++·人工智能
收获不止数据库3 小时前
达梦9发布会归来:AI 时代,我们需要一款什么样的数据库?
数据库·人工智能·ai·语言模型·数据分析
hhb_6183 小时前
AI全栈编程生存指南
人工智能
AI-Frontiers3 小时前
transformer进阶之路:#2 工作原理详解
人工智能·深度学习·transformer
科研前沿3 小时前
2026 数字孪生前沿科技:全景迭代报告 —— 镜像视界生成式孪生(Generative DT)技术白皮书
大数据·人工智能·科技·算法·音视频·空间计算