智能体什么时候该遗忘,什么时候该快一点?两篇 arXiv 新论文解读
解读日期:2026 年 10 月 16 日
阅读版本:两篇论文的 arXiv v1。本文依据论文正文、结果表与附录撰写,未独立复现实验。标为"分析""推论"或"研究建议"的内容,是本文的解释与延伸。
这次选择的两篇文章都研究大模型智能体,但它们把注意力放在两个经常被参数规模掩盖的问题上:历史经验怎样影响下一次探索,推理耗时怎样影响实际行动。前者关乎长期探索的质量,后者关乎动态环境中的有效性。
论文与阅读重点
| 论文 | 首次提交 | 研究团队 | 阅读重点 |
|---|---|---|---|
| Scaling Discovery Requires Forgetting | 2026-10-14 | Shangyin Tan 等;UC Berkeley、Stanford、Bespoke Labs | 怎样避免自动研究被既有搜索历史困住 |
| The World Won't Wait: Evaluating and Teaching Agents Under a Live Clock | 2026-10-14 | Ningxin Pan 等;北京大学、三星研究院 | 怎样协调慢速推理与实时行动 |
论文入口:第一篇 arXiv 页面;第二篇 arXiv 页面。
一、Scaling Discovery Requires Forgetting:让研究继续前进,有时要清空搜索历史
1. 原文提出了什么,证据有多强
作者在四项有自动评分器的优化任务上,比较持续运行的单智能体、四个独立智能体,以及通信并周期性遗忘的团队。遗忘保留当前最优候选及其分数,清除会话和候选历史;没有修改模型权重。主实验使用同一模型、相同 API 支出预算,每个配置重复三次。1,§3--4
下面摘取两个任务的三次运行均值。指标越高越好,AHC014 的单位为千分。
| 方法 | AHC014 | Frontier-CS Q171 |
|---|---|---|
| 单智能体 | 795 | 64.0 |
| 四个独立智能体 | 964 | 70.2 |
| 通信与遗忘团队 | 1,103 | 80.8 |
数据来源:1,表 1。AHC014 上,相对单智能体的增幅约为 38.7%,相对四个独立智能体约为 14.4%;这些是特定任务得分的相对变化。
更有辨识力的是同一起点实验:在已停滞的 AHC014 团队上,再进行每个智能体 30 次提案,继续历史得到 1.4% 的平均增益,遗忘得到 9.2%;对应 API 支出为 24.67 和 15.32 美元。1,§4.3、表 3
2. 分析:为什么"最优方案"和"产生方案的全部历史"价值不同
可以用一个假想例子理解:一个智能体最初认为某种算法路线不值得尝试,随后几十轮都围绕另一条路线做局部优化。如果每次决策都读到原来的判断,新提案就可能持续沿用这套前提。
这里需要区分两种知识。
一种知识存在于可运行的方案里,例如一个已经通过验证、确实提高了得分的算法组件。另一种知识存在于过程叙述里,例如"这条路线看起来没有希望""这个改动太复杂"。前者是经过评价的成果,后者包含当时条件下的判断。
两者当然都可能有用,但它们不应自动获得相同的决策权重。一个失败判断是否继续有效,取决于前提有没有改变、测试是否充分、后来是否出现了新的组合方式。
因此,我认为这项研究最有价值的解释,是把智能体的记忆问题转化成了一个选择问题:哪些历史仍然构成有效证据,哪些历史正在限制下一轮探索?这比单纯增加上下文容量提出了更具体的研究对象。
3. 分析:主要比较和因果解释要分开
表 1 的完整方案同时包含通信与遗忘,所以不能把相对独立智能体的全部收益都归因于遗忘。同起点的继续/遗忘比较更接近直接检验遗忘的作用,但仍需继续拆分干预机制。
例如,可以分别控制:
| 后续实验 | 要区分的解释 |
|---|---|
| 只重置会话,保留候选档案 | 会话惯性是否足以解释收益 |
| 保留会话,只隐藏候选档案 | 外部搜索记录是否构成主要干扰 |
| 用等长的中性文本替换旧历史 | 收益来自语义变化,还是输入长度变化 |
| 保留经复核的失败约束,再重启 | 有用的负面经验能否保留而不压制探索 |
| 固定总支出与固定提案次数分别比较 | 经济效率与每次提案质量是否同时改善 |
这些是本文提出的实验建议,并非原文已经完成的结果。
我也不会把代码改动变大直接解释为"创造力提高"。更大的改动可能表示搜索范围扩大,也可能只是增加了无效变化。要支持创新机制,需要同时观察候选之间的结构差异、有效新方向的比例,以及最终经过独立验证的收益。
4. 我的评价与可迁移边界
这篇文章的优点,是用简单、可执行的干预检验了长期搜索中的一个实际问题。它把注意力从"让智能体继续想"转向"怎样让后续探索仍有信息价值"。
但评价范围应受到单一骨干模型、少量重复运行和特定评分任务的约束。它还不足以支持"智能体应该普遍删除记忆",更不足以推出"更长上下文通常有害"。
对产品设计,我的推论是:可以让在线决策只接触经过筛选的成果,同时在独立记录中保留完整实验过程。这样,重新探索与可追溯性可以同时存在。是否有效,仍应在具体任务上检验。