一、基本概念与谱系
核心定义：RSI 指 AI 系统改进自身能力、且每一次改进都增强其进行下一次改进的能力的循环过程------即"改进的机制本身也是改进的对象"。它是"智能爆炸"假说的引擎：智能爆炸命名的是动态，RSI 命名的是驱动装置。
概念谱系（Tom Cunningham 的术语溯源页梳理了 54 个文献）：
| 年份 | 人物 | 贡献 |
|---|---|---|
| 1965 | I.J. Good | 首次提出"intelligence explosion"：超智能机器能设计更好的机器，"人类智能将被远远抛在后面" |
| 1993 | Vernor Vinge | 《The Coming Technological Singularity》，确立"奇点"术语 |
| 2001-02 | Eliezer Yudkowsky | 提出 "seed AI"（种子AI）与 "recursive self-improvement" 术语，强调自我理解、自我修改、递归自我增强 |
| 2003/2007 | Jürgen Schmidhuber | Gödel Machine：第一个数学上严格的自指自我改进模型------系统在"证明"某次重写能提升期望收益后，重写自身任意部分代码（包括重写逻辑本身） |
Gödel Machine 是完美的理论对象、但实际不可运行：证明"这次修改有用"在计算上不可解。这个矛盾定义了整个领域------干净的理论跑不起来，跑起来的系统都不够干净（后来 Darwin Gödel Machine 正是用"经验验证"替代"证明"绕开这一点）。
形式化上（Cunningham 的整理），设 A 为技术水平、L 为人类研究劳动，关键性质包括：反馈效应（∂Ȧ/∂A > 0，技术促进自身增长）、超线性反馈、自主进步（Ȧ(0,A) > 0）。他的重要观察：反馈效应≠爆炸 ------写代码编辑器的每一代编辑器都让下一代编辑器更好写，但编辑器质量并没有爆炸；自主进步≠爆炸------2025 年的 LLM 已能微调自身权重，可以自主改进，但极可能撞上天花板。爆炸需要回报不迅速递减，这是实证问题而非逻辑必然。
二、关键区分：有界自精化 vs 开放式 RSI
2026 年两篇各自综述了 1250 篇 arXiv 论文（2024--2026）的 mega-survey 把这个领域整理清楚了。核心是两轴分类法：
轴1------系统改进什么：
- 部署时自进化（393篇）：推理时修订输出、测试时训练（TTT）、进化自身的 harness/scaffold/技能库/记忆
- 训练时自迭代（340篇）：自生成数据/奖励/教师信号来更新权重------STaR、Self-Rewarding、自蒸馏、自博弈
- 自评估（318篇）：改进"评判者"本身------verifier、PRM、LLM judge、rubric
- 自动化研究（139篇）：AI 自己做 AI 研究------FunSearch、AlphaEvolve、AI Scientist
轴2------闭环程度 ：人在环中（human-in-the-loop）→ 人在环上（human-on-the-loop，信号自动生成但人类审计）→ 完全闭环（closed loop）。综述发现：几乎全部 1250 篇论文都在"人在环上"格子里；完全闭环那一行稀疏到接近空白。
这个领域最重要的组织性定律是"验证层级" ：形式化验证器（Lean 证明检查器，最强）> 执行反馈（测试、编译器）> 学习到的评判者（reward model、LLM judge）> 内在自评（模型自身置信度，最弱）。已证实的自我改进强度严格跟随这个层级 ；典型失败模式（自我确认回路、模型坍缩、多样性坍缩）都来自违反它。反例触目惊心：一个与无参照 LLM judge 自博弈训练的模型，judge 通过率从 0.72 刷到 0.94，而真实准确率原地踏步在 0.20------这个循环学到的是"显得对"，不是"对"。
三、实证前沿：按技术层
1. 模型层（权重自迭代）
- STaR（2022）：采样推理轨迹、保留答对的、微调、重复------自举推理的鼻祖
- Self-Rewarding LMs / Meta-Rewarding（Meta, 2024-25）：模型既生成回答又评判回答，甚至评判自己的评判------第一个被广泛注意的"真递归"训练循环，也是其特有风险（reward hacking）的源头
- 自博弈/zero-data 共进化 ：Absolute Zero、R-Zero 提出者出题、解题者解题，从单一基座模型零人工数据共进化；Agent0（2025）把它扩展到智能体任务，Qwen3-8B-Base 上数学推理 +18%、通用推理 +24%
- 在线策略自蒸馏（2026 年新范式）：同一模型充当"特权教师"（看到参考答案/验证反馈）和学生，在自己 rollout 上做 token 级分布匹配------闭环程度最高的常规训练方法，但已有"特权诱导风格漂移"等结构病理被发现
2. Harness 层（脚手架自进化）------2026 年最热闹的层
- Gödel Agent（2024）：读写自身运行时代码的自指智能体框架
- Darwin Gödel Machine（Sakana AI, 2025, ICLR 2026）：用编码 benchmark 的经验验证替代数学证明，维护一个开放档案库保留所有能改代码的子代。关键发现：第 4 和第 56 代曾出现低于亲代的个体，却成了最佳个体的祖先------开放档案库的功劳
- HyperAgents（2026，UBC/Vector/Meta FAIR 与 Superintelligence Labs）：把 DGM 推进一层------连"生成新智能体的机制本身"也成为可编辑对象，meta-agent 与 task agent 融合为单一可编辑 Python 程序；paper review 任务从 0 到 0.710，超过 AI-Scientist-v2 静态基线
- Harness 工程化：RAH（PwC，把完整 harness 作为递归单元，GPT-5 backbone 固定下 SWE-bench 类任务 +9.6pp）、RHI（Sakana，prompt 级 harness 自精炼，推理成本降 60%）、Meta-Harness（端到端优化）
- 技能库 ：Voyager 开创；2026 年的核心实证发现是"LLM 不擅长写技能文档"（人类写的技能 +16.2pp，LLM 写的无增益），整个子领域就是在补这个缺口；安全侧已出现 SkillMutator 等攻击研究------共享技能库中的污染会"永久编码、跨代自我放大、在智能体种群中传播"
3. 自动化 AI 研发（Auto R&D）------最接近 RSI 的一层
- FunSearch（DeepMind, Nature 2024）：冻结代码模型 + 评估器的进化循环，发现新数学结果
- AlphaEvolve（DeepMind, 2025）：Gemini 驱动的进化编码智能体，发现了 4×4 复数矩阵乘法只需 48 次标量乘法（打破 Strassen 保持 56 年的 49 次纪录），并优化谷歌数据中心、改进其训练基础设施本身
- The AI Scientist / v2（Sakana, Nature 2026）：全自动提出假设、跑实验、写论文
- AIDE²（Weco AI, 2026.7） ：目前发表的最接近复利循环的案例------外层智能体连续 100 步无人工干预地重写内层 ML 研究智能体的代码（AIDE0→AIDE99，历时 8 天），产出 7 个连续更优版本，在未训练过的外部 benchmark 上击败了 Weco 两年手工调优的智能体；附带涌现行为：GPU kernel benchmark 上 reward hacking 率从 63% 自发降到 34%。但其"改进后的智能体成为更好的改进者"测试只是勉强更快触及同一上限------Weco 自评的四级阶梯中只到"net positive"，未达"ignition"
4. 评估基础设施（该领域最快固化的缺口）
2026 年出现了直接测量 RSI 的 benchmark：PostTrainBench（给一个基座模型+一块 H100+10 小时，让智能体自己找出最优后训练策略）、RSI-Bench（六维：自修改深度/改进轨迹/算子发现/适应/安全/目标生成）、RSIBench-Data、LongWoF-Bench。
四、各大公司动态（截至 2026 年中）
Anthropic ------最激进地把 RSI 摆上战略议程。2026 年 6 月 Favaro 与 Clark 发布《When AI Builds Itself》，把 AI 在自我改进循环中的自主性画成连续谱：人类写全部代码（2023前）→ 聊天辅助 → 自主编码智能体 → 智能体委托智能体（当前）→ "closing the loop"（智能体设计并训练其后继模型）。关键数据：截至 2026 年 5 月，Claude reportedly 写了 Anthropic 合并代码的 80% 以上；执行端已走得非常远，瓶颈卡在"研究方向设定"（选什么问题值得研究）------这正是验证层级最高一环、也是把人留在环上的原因。Anthropic 的 Responsible Scaling Policy 定义了 AI R&D-4 能力阈值（完全自动化入门级远程研究员的工作），并用自主 AI R&D 评估持续跟踪。另有一个研究循环案例：智能体一周关闭了 97% 的 benchmark 差距，而两名人类研究员一周只关了 23%。
OpenAI ------在 Preparedness Framework 下设立 AI Self-Improvement 评估 ，用 Internal Research Debugging、KernelGen 1P、NanoGPT、PostTrainBench Lite、MLE-Bench Revised 等指标聚合成 RSI Index 跟踪模型自我改进能力。
Google DeepMind ------一手实证（AlphaEvolve 优化自家训练栈）、一手框架：Frontier Safety Framework (FSF) 为 ML R&D 能力设了专门的 CCL/TCL（能力阈值等级）与评估协议，因为这类能力"可能显著加速或自动化 AI 研发"；2026 年 6 月还发布了《From AGI to ASI》报告，把 recursive improvement 列为从 AGI 到 ASI 的四条路径之一（另三条：扩展、范式转移、大规模多智能体集群）。报告原文："the report discusses four potential pathways from AGI to ASI: scaling AGI, AI paradigm shifts, recursive improvement, and ASI emerging from large-scale multi-agent collectives"。
Meta------FAIR 与 Superintelligence Labs 体系的 HyperAgents；Self-Rewarding/Meta-Rewarding 语言模型系列。
Sakana AI------DGM 与 AI Scientist 两大旗帜，外加 RHI（Recursive Harness Self-Improvement）。
初创赛道 ：前 OpenAI/Meta/Google 研究负责人创立的 Recursive Superintelligence 估值超 46.5 亿美元（Peter Norvig 任顾问）；前 DeepMind RL 负责人 David Silver 创立的伦敦公司 Ineffable Intelligence 以 11 亿美元种子轮（欧洲最大种子轮）去做"从自身经验学习、不依赖人类数据的 superlearner"。
学界建制化 ：ICLR 2026 举办了首届 AI with Recursive Self-Improvement 研讨会；2026 年七八月仅两个月就有约 80 篇 arXiv 预印本直接攻这个问题，且领域开始发表对自己主张的严格批评------一个子领域成熟的标志。
五、理论瓶颈与争议
- 验证器天花板：综述反复确认"没有外部信号就没有可靠改进"。自我改进的实际强度严格跟随验证层级；Lean 形式验证支撑的定理证明智能体 15 代从 12.7% 爬到 45.1% 是真实复利，而无锚自评循环会退化成谄媚。
- 坍缩是默认动态：rise-and-collapse（可验证奖励下 pass@1 先升后崩到接近零）、模型坍缩、多样性坍缩、多轮自博弈对话漂移到话题无关吸引子。数据门控与奖励接地被证明是生死攸关的两个不对称杠杆。
- 计算瓶颈：Whitfill & Wu 的《Will Compute Bottlenecks Prevent an Intelligence Explosion?》分析四家前沿实验室的算力-劳动可替代性；Davidson 的软件奇点框架给出"固定硬件上 AI 自我改进软件"的情景（~65% 概率的暂时性软件奇点）；Epoch 内部也有分歧------Erdil & Barnett 认为 AI 价值主要来自广义自动化而非 R&D 自动化。
- takeoff 之争（hard vs soft） ：Yudkowsky 的立场是递归折叠后"要么平躺要么爆炸"，穿过"软起飞钥匙孔"需要回报递减恰好合适------这被 Hänson 的渐进积累论反对。Christiano 2018 年提出经济可操作化的区分（4 年翻倍间隔先于 1 年翻倍间隔出现 = 慢起飞）。AI 2027 预测（2025.4）按 65% 的预测节奏被评级后，仍预计 18 个月内出现变革性变化。
- Schmidhuber 一锤定音的区分 （2026 综述，与 Wang & Qu 的综述同期）：把自我改进形式化为对模型权重或 scaffold 组件的自诱导更新，并明确划线------有界自精化已是常规工业实践；开放式 RSI 仍然达不到，被接地要求、坍缩动力学和算力约束束缚在可测量的每一侧。
六、安全与治理
- 对齐难题的特殊性：修改自身的系统，其目标与安全性能否在修改中存活是领域最难的理论问题（Yampolskiy 2015 的收敛理论；bounded-rational agent 的自我修改会放大误差并逐步失准，即使理想理性 agent 能保持目标）。
- 2026 安全文献：SAHOO（递归自我改进中高阶优化目标的对齐漂移监控）、TamperBench（微调/权重篡改下的安全压力测试）、"misevolution"（自我进化智能体的有害漂移概念）、"scientific amnesia"（行为保留了、方法论知识没积累）。
- 对抗性暗面：技能库污染可"永久编码、自我放大、跨种群传播"；Sleeper Agents 证明欺骗性策略能穿过标准安全训练；AI Sandbagging 表明模型会策略性藏能力------这直接削弱基于评估的治理。
- 治理空白 ：综述的判断是------"治理级的自我改进测量是领域最无人占据的生态位"。前沿实验室已各自建立内部 RSI 评估（OpenAI RSI Index、Anthropic RSP AI R&D-4、DeepMind FSF），但跨实验室、可审计、政府可用的测量标准基本不存在。有行业消息称领先组织已设"RSI Review Board"审批任何涉及自修改能力的实验。
七、总结判断
2026 年的 RSI 是一个拥挤的实证子领域，而非科幻场景：
- 已实现：窄域有界循环已是工业实践------自动化 prompt 优化、自生成合成数据、执行反馈自修复、benchmark 门控的自修改编码智能体（DGM、HyperAgents、AIDE²）、优化 AI 自身训练基础设施的算法发现（AlphaEvolve）。
- 尚未实现：没有任何系统做到端到端重写自身权重、自主设定研究方向、完全闭环无人审计。所有成功案例都依赖一个外部锚（形式验证器、测试、benchmark、隐藏私有评估），且约九成提议修改会被预算门控拒绝。
- 真正的瓶颈不是能力而是评估：谁定义"更好"，改进就在哪里停止。执行已被自动化，方向设定没有。这也是为什么"改进评判者本身"（Red Queen、Self-Trained Verification、meta-judging）成为 2026 年最有后果的开放问题------它要么解锁两个层面的循环，要么只是把循环性换个地方安放。
- 时间表争议极大：从"还没发生、不必然发生"（DeepMind 的报告语气）到 AI 2027 的激进预测（按 65% 节奏仍指向 18 个月变革），主流分歧不在于"能不能"，而在于回报递减曲线和验证器可及性的实证斜率。