【从零构建AI Code终端系统】03 -- Agent 循环:一个 while 就是全部

03 -- Agent 循环:一个 while 就是全部

7 行代码

上一章结尾留了一个问题:bash 只能执行一次,然后呢?

答案是把它放进循环:

复制代码
while true:
    response = model(messages, tools)
    if no tool_calls in response:
        break
    for call in response.tool_calls:
        result = execute(call)
        messages.append(result)

这就是 agent 的全部。学术界叫它 ReAct(Reasoning + Acting),但名字不重要。重要的是------循环内部没有一行 if/else 决定"下一步做什么"。

用什么工具、以什么顺序、什么时候停------全部由模型决定。代码只做三件事:调用模型、执行工具、把结果喂回去。
Agent 循环
输入与上下文
最终响应
推理 LLM
工具选择
工具执行


核心命题:零分支

数一下这 7 行里有几处代码在做任务级判断。零处。

循环越短,agent 越聪明。 每往里加一行 if/else,就从模型手里夺走一个决策权。"如果文件不存在就搜索"------听上去合理,但你在用硬编码规则替代推理。你能预见 50 种情况,模型面对的是无限种。第 51 种到来时,你的规则沉默了,模型不会。

退出条件同理。循环什么时候停?当模型的响应不再包含 tool_calls 时。不是计时器到了,不是执行次数到了上限------是模型自己判断任务完成了,选择返回文本而不是继续调用工具。

你写的每一行分支逻辑,都是在用有限规则替代无限推理。保持循环极简,把决策空间完整地留给模型。


自愈:循环的免费副产品

用户说"帮我跑测试":

复制代码
轮次 1: "好,先跑测试看看"
        --> bash("npm run test")
        --> 报错: "Cannot find module './utils'"

轮次 2: "找不到 utils?看看这个文件"
        --> read_file("src/utils.ts")
        --> 报错: "File not found"

轮次 3: "不存在?可能被移动了,搜一下"
        --> grep("utils", "src/")
        --> 结果: src/lib/utils.ts

轮次 4: "原来搬到 lib 下了,改引用"
        --> edit_file("src/index.ts", "./utils" -> "./lib/utils")

轮次 5: "改完了,再验证"
        --> bash("npm run test")
        --> "All tests passed"

没有一行重试代码,没有一个 catch 块,没有"如果 test 失败就搜索文件"的预设规则。模型看到错误输出,理解含义,调整策略,再试一次。整个行为 100% 来自推理,0% 来自预编程。

这就是上一章坚持"不抛异常,结构化返回"的原因。exit code + stdout + stderr 被追加到消息历史,成为下一轮推理的输入------错误信息从终点变成路标。


中间件:洋葱模型

循环建立了。但模型每次被调用时,请求先穿过一层层中间件:

复制代码
请求进入 -->
  [ 中间件 A ]
    [ 中间件 B ]
      [ 中间件 C ]
        === 模型调用 ===
      [ 中间件 C ]
    [ 中间件 B ]
  [ 中间件 A ]
<-- 响应返回

每个中间件有两次介入机会------进去的路上和出来的路上。

前与后

进去的路上(调用前):修改即将送达模型的消息。注入技能列表、裁剪过长上下文、检查是否需要压缩------模型还没看到这些消息,你有完全的编辑权。

出来的路上(调用后):处理模型返回的响应。记录 token 消耗、检测暂时性错误决定是否重试、提取结构化数据------响应已经产生,你有完全的审计权。

后续每引入一个新能力,几乎都落在这两个时机上:

  • 技能注入?调用前,把可用技能列表塞进消息。
  • 上下文压缩?调用前,把过长的历史替换为摘要。
  • Token 追踪?调用后,从响应里提取用量数据。
  • 重试?调用后,判断是否限流或超时,决定是否退避重发。

一个典型的中间件:

复制代码
function retryMiddleware(next):
    for attempt in range(maxRetries):
        response = next(request)
        if response is not transient_error:
            return response
        wait(exponential_backoff(attempt))
    return last_response

它不知道 next 里面是另一个中间件还是真正的模型调用。不关心请求内容,不关心上一层做了什么。只管一件事:失败就重试。

组装

把工具、中间件和循环拼在一起:

复制代码
function createAgent(modelRoute, tools, middlewares):
    model = getModel(modelRoute)         // 第 01 章的路由
    chain = compose(middlewares, model)   // 洋葱
    return Agent(chain, tools)           // 带循环的实例

三行。模型从路由来(第 01 章),工具从注册来(第 02 章),中间件堆叠成洋葱。后续每引入一个新能力,都是往这个函数里安装一个新零件------要么是一个新工具,要么是一层新中间件。


小结

循环给模型行动力,中间件给系统扩展力。但行动力没有方向感,就是原地打转------循环跑多了,早期意图被调试日志和错误信息淹没,注意力漂移不可避免。


相关推荐
2601_9495394518 小时前
家用新能源 SUV 核心技术科普:后排娱乐、空间工程与混动可靠性解析
大数据·网络·人工智能·算法·机器学习
北邮刘老师18 小时前
暗数据:智能体探索世界的下一步
人工智能·大模型·prompt·智能体·智能体互联网
ggabb18 小时前
世界人口血型分布及关联特点
人工智能
弘弘弘弘~18 小时前
项目实战之评论情感分析模型——基于Bert(含任务头)
人工智能·深度学习·bert
明月_清风18 小时前
从提示词到脚手架:LLM 开发的三大工程维度对比
人工智能
南湖北漠18 小时前
奇奇怪怪漫画里面的蛞蝓是带壳的那种鼻涕虫
网络·人工智能·计算机网络·其他·安全·生活
小超同学你好19 小时前
Transformer 23. Qwen 3.5 架构介绍:混合线性/全注意力、MoE 与相对 Qwen 1 / 2 / 3 的演进
人工智能·深度学习·语言模型·架构·transformer
Ztopcloud极拓云视角19 小时前
谷歌 Gemma 4 实战部署指南:从开源协议解读到本地推理落地
人工智能
Agent产品评测局19 小时前
企业发票管理自动化落地,验真归档全流程实现方法:2026企业级智能体选型与实测指南
运维·网络·人工智能·ai·chatgpt·自动化
HIT_Weston19 小时前
39、【Agent】【OpenCode】本地代理分析(三)
人工智能·agent·opencode