在最近的时候, 我翻阅了arXiv上面的论文, 其中有某一篇论文里面的一句话把我给打动了。
这个线性流水线的过程是从计划开始, 然后进行编写, 最后得到结果, 其中存在错误和风险。

这句话对人工智能在过去这四年里面的变化过程, 进行了非常明确、透彻的归纳和总结。这里提到的四个阶段, 也就是文中说的四年间形成的四套不同的框架或者模式, 它们之间并不是互相取代的关系, 而是一种层层叠加、逐步积累的关系。
(2022-2024)
在早期阶段有一个信条, 这个信条的意思就是: 只要写得足够好, 那么模型就会显得足够聪明。思维链、推理链以及少样本学习这全都是在这条发展道路上的具体技巧。以思维链这篇论文作为代表的例子显示, 它使得GPT-3在处理数学题目时的正确率从百分之十八大幅上升到了百分之五十七。

只是, 它装不下整个世界。因为这个模型看不到数据库里面的信息,也看不到工具运行之后的输出结果, 更没有办法看到历史的记录。
(2024-2025)
2025-09, 官方博客中写道: 这一事物乃是那一个事物的自然而然的发展与演变的过程。
核心转变在于要将内容填充过程当作工程学科来对待。具体来说, 这包括了检索增强生成、层次化结构处理、工具结果的形态塑造以及本地摘要的压缩机制。我们必须要承认高质量的数据是一种稀缺资源, 这意味着即使是一百二十八千字节的上下文窗口长度也不是无限的供给。

(2025)
这些代码框架, 包括中间的那个空白位置代表的部分, 还有Agent框架, 它们共同的特性并不是在于写代码写得有多出色, 而在于它们都拥有一个完整的运行时期环境: 其中包括了对于工具工具的校验环节、状态状态的保持与管理、钩子系统的介入机制, 以及对子代理子-agent的管理功能。

大型语言模型是不可信的, 它只是引擎, 真正起作用的是把它的功能包裹起来、作为基础的底层架构部分。
Loop (2025 末-2026)
提出了两个, 一个是可验证清单, 另一个是Audit(证据审计)。
我们可以把所谓的"长循环"这个东西, 拆解开来变成一个一个具体的、可以被验证子目标, 然后用评审来进行剪枝操作。这实际上就是把那个经典的、大家很熟悉的支持系统控制理论中的反馈环概念, 直接地搬进了现在的人工智能系统里去使用。

AI 视角
把 4 个范式串成一句话:"如何在 LLM 这个不可信的 引擎上构建可靠系统"。
这是输入的工程, 那是资源管理, 这里涉及到运行时, 所谓的Loop, 其实是反馈控制理论。
当你在多个范式之间犹豫不决的时候, 不妨先观察你所面临的实际困难究竟集中在哪一个抽象层级上面。
如果存储容量成为限制因素而不足以容纳所需的数据规模, 那就选择第一套方案;如果程序运行过程中出现逻辑失控或执行偏离预期轨迹的情况, 那就引入第二套机制;假如系统的基础模块已经具备稳定性, 但在处理持续时间较长的任务时依然会出现失控现象, 那么就应当采用Loop方式来解决这个问题。