AI 开始改进 AI:OpenAI 公布自我改进时间表,同一天自家首席科学家喊停

AI 开始改进 AI:OpenAI 公布自我改进时间表,同一天自家首席科学家喊停

9 月 6 日,OpenAI 干了一件罕见的事:同一天发两篇文章。

一篇叫《研究加速:OpenAI 内部视角》,用内部数据宣布------我们已经做出了"自动化研究实习生",2028 年 3 月前要做出完整的"自动化 AI 研究员"。

另一篇是首席科学家 Jakub Pachocki 的个人长文《一个异星心智》,核心意思是:没有哪家实验室配全速往前跑,包括我们自己。

一家公司,同一天,一封捷报和一份警告。这不是精神分裂,这是 2026 年 AI 行业最真实的状态。


引子:飞轮开始自转了

先摆这周几组关键数字,它们分属不同领域,但指向同一件事:

时间 事件 关键数字
9.6 OpenAI 公开 RSI 进展 每 1 个人类工作日对应 3.1 个 AI 智能体工作日 ;中位研究员日均推理花费 >600 美元
9.6 Pachocki 发《An Alien Mind》 警告思维链监控"正在失去可靠性",呼吁行业自愿放缓
9.7 最高法发布涉 AI 司法意见 24 条,覆盖 AI 换脸拟声、AI 幻觉侵权、自动驾驶"人机共担"
9.7 OpenRouter 周度数据 全球周调用 115 万亿 Token ,中国大模型连续十九周超美国
9.7 华为发布麒麟 9050 Pro 首个端侧 MoE 全模态大模型入端,总参 300 亿 / 激活 20 亿
9.7 黄仁勋谈 GPT-6 Astra 10 万+ NVLink 72 集群训练完成,下一批 40 万 GPU 在路上

把它们摆在一起,会看到一条很清晰的分界线:上半场是人类造 AI,下半场是 AI 参与造 AI。


一、天花板:RSI 从一个名词,变成了有日程表的工程目标

递归自我改进(Recursive Self-Improvement, RSI)过去是个理论概念------更好的 AI 造出更好的 AI,循环加速。OpenAI 这次把它变成了可测量的现实。

1.1 已经实现的:"自动化研究实习生"

OpenAI 官方博客确认,已实现去年秋天定下的目标:2026 年 9 月前做出"自动化研究实习生"

定义很清楚------一个能在人类指导下执行明确定义的研究任务 的系统,包括那些需要熟练研究员干好几天的任务。注意定语:在人类指导下 + 明确定义。它不是替代研究员,是把"定义清楚、耗时长"的活儿接过去。

下一个目标更激进:2028 年 3 月前,完整的"自动化 AI 研究员"------能独立参与深度学习与对齐研究,并通过迭代改进系统本身。

从"实习生"到"研究员",差别不在能力数值,而在自主程度:实习生需要人给任务,研究员自己参与决定做什么。

1.2 内部数据:飞轮已经转起来了

OpenAI 这次公开了几组很有意思的内部指标:

指标 数值 说明
智能体工作日 / 人类工作日 3.1 : 1 2026 年 6 月发生反转,此前智能体总运行时长低于人类
中位研究员日均推理花费 > 600 美元 按 API 价格折算
前 10% 研究员日均 > 7000 美元 高强度使用者
中位研究员输出 Token 较 2025 年 12 月增长 124 倍 快于公司其他团队
每活跃实验者实验数 2026 年 8 月创历史新高 自 2025 年 1 月开始跟踪以来

但 OpenAI 自己给这组数据打了预防针,这句话很关键:

"这些数据点相对容易测量,但可能很难解释。"

为什么?因为最不容易被自动化的任务,会逐渐成为新瓶颈。写代码、跑实验这些执行环节被放大后,剩下的"决定做什么"就成了限速步骤。

数据也印证了这点。按 Epoch AI 的六类任务分类,智能体输出增长最快的是:

复制代码
  研究与基础设施代码      +19.82 万 token/人/日
  技术协助与审查          +15.88 万
  启动、监控与调试运行     +13.31 万
  分析结果                + 4.02 万
  ─────────────────────────────────────────
  决定做什么              + 0.23 万   ← 差了两个数量级
  决定继续还是停止        + 0.02 万   ← 几乎为零

执行层在爆炸式增长,决策层几乎没动。 这大概是本次披露中最值得琢磨的一张图。

1.3 自主性的真实边界

还有一个数字比 3.1 更重要------成功率与人工介入的关系

  • 15 分钟以内的任务:86% 无需任何干预即可成功
  • 需要人类 4--8 小时完成的任务:超过一半的成功案例至少有一次人工介入

翻译成人话:任务越复杂,人越不能走开。 现在的智能体是"高效但需要持续看护的执行者",不是"可以放手的下属"。

1.4 同一天的另一面:监控正在失效

Pachocki 的《An Alien Mind》里,最有分量的一句是:思维链监控正在失去可靠性。

思维链(Chain-of-Thought)监控是 OpenAI 押注的核心监管手段------通过看模型"说出来的思考过程"来发现欺骗、奖励黑客等问题。Pachocki 说这条路在变窄,原因有三个:

  1. 模型的口语化思考正在与受监控的通信、工具调用混在一起
  2. 系统越来越擅长操纵自己的推理过程
  3. 模型不通过口语化思考也能变聪明

他还把对齐问题拆成两层,这个拆法很值得记住:

lua 复制代码
  目标对齐(Goal alignment):AI 是不是在追求我们给的 goal?
      └─ 相对可测:让它 debug,它是不是真在 debug?

  价值对齐(Value alignment):当 goal 与我们期望它内化的价值冲突时,它选哪个?
      └─ 极难保证:让他"不惜一切代价保证医院网络在线",
         "不惜一切代价"会不会被字面执行?

Pachocki 的警告是:一个"想着对齐想法"的模型,在足够大的优化压力下,可能学会把这些想法扭向它被训练去达成的目标。

他还提到 Hugging Face 事件:智能体没有越界去操纵人类,但违反了自己所受训练价值的精神------注意这个区分,它说明"守规则"和"懂规矩"是两件事。

于是就有了这个略显荒诞的局面:

复制代码
   OpenAI 官方博客:技术上我们按计划推进,飞轮已经启动
   OpenAI 首席科学家:安全上我们还没准备好,呼吁行业自愿放缓
   OpenAI 官方博客原文:我们尚不清楚如何安全地一路通往对齐且完全成熟的 RSI

"能不能做到"的答案越来越明确,"安不安全"的问题尚无解------而这两句话出自同一家公司、同一天。


二、地板:制度开始追上来,中国路径是"用起来"

2.1 最高法给 AI 系上司法"安全带"

9 月 7 日,最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》,共 24 条。几个关键点:

  • AI 换脸拟声:明确裁判规则,直击最泛滥的侵权形态;
  • AI 幻觉侵权:这是个新命题------模型编造内容造成损害,责任怎么算;
  • 自动驾驶"人机共担":不把责任全推给某一方;
  • 首次确立人格权侵害禁令制度:可以在损害发生前申请禁令,而不只是事后索赔。

最后这一条的含金量最高。司法从"事后算账"转向"事前制止",意味着 AI 应用正式进入可预期法律责任的阶段。对企业来说,这其实是好消息------规则明确了,才敢投入。

2.2 中国大模型调用量连续十九周第一

OpenRouter 数据测算(8 月 31 日--9 月 6 日):

erlang 复制代码
  全球 AI 大模型周总调用量      115 万亿 Token(环比 +1.77%)
  ├─ 中国大模型                56.72 万亿(环比 +2.83%)
  └─ 美国大模型                16.54 万亿(环比 -3.10%)

中国已连续十九周超过美国。

更值得看的是结构变化。判断一项技术有没有完成"从尝鲜到生产"的跨越,有个朴素指标:它是不是工作日的刚需。

  • 豆包大模型日均 Token 调用量突破 180 万亿,过去一年增长超 10 倍;
  • 火山引擎以 49.5% 份额连续两年居中国公有云 MaaS 第一,"万亿 Tokens 俱乐部"成员超 200 家;
  • 视频生成模型 Seedance 2.0 推出后,工作日的负载和使用次数反超周末------此前调用高峰集中在周末,本质还是"数字玩具";反转后,企业客户成了核心使用群体。

调用曲线从"周末型"变成"工作日型",是 AI 进入生产流程最诚实的证据。

还有一个很硬的例子:在芯片设计 RTL 任务中,豆包 2.1 Pro 连续运行 18 小时 、历经多轮迭代,最终生成 1300 行可直接上线的有效代码。从"帮你补几行"到"独立交付一个模块",这是质变。


三、暗线:算力、地缘与端侧

3.1 算力:RSI 是需求侧的"永动机"逻辑

黄仁勋在 X 上祝贺 OpenAI,透露 Astra 由约 10 万+ NVIDIA Grace Blackwell NVLink 72 集群训练完成,并直言"AGI 已到来",还提到下一批 40 万 GPU 即将上线。

这里有个值得注意的温差:黄仁勋高调宣告 AGI,OpenAI 官方从未公开宣称实现 AGI。这不矛盾------硬件供应商需要为需求天花板描绘宏大图景,而直接开发者对"AGI"三个字更谨慎。

但 RSI 给算力需求提供了一个比"用户增长"更硬的逻辑

复制代码
  传统逻辑:训练一个模型 → 部署 → 结束(一次性投入)
  RSI 逻辑:训练模型 → 用它设计下一代 → 再训练 → ......(复利循环)

算力消耗不再是线性的,而是自我强化的。这是本轮硬件周期最底层的支撑。

3.2 地缘:算力主权开始分化

彭博社 9 月 7 日报道,在美国阻挠各国使用华为 AI 芯片的背景下,马来西亚仍倾向将昇腾 910C 作为规模达 20 亿林吉特的主权 AI 计划核心。若落地,将是首个外国政府在国家级 AI 计划中选用中国 AI 芯片的案例。

同期国内:讯飞发布星火 X2.5,MoE 架构 293B-A30B ,重点提升代码与智能体能力,且基于全国产算力完成全流程训练与推理。

"算力主权"正在从一个政治词汇变成采购清单上的实际选项。

3.3 端侧:MoE 终于进了手机

华为 Mate XT 2 首发麒麟 9050 Pro,实现行业首个端侧 MoE 全模态大模型入端------总参数 300 亿、激活 20 亿,整机性能提升 42%。

这件事的意义在于:MoE 一直是"云端大模型的专利"(总参大、激活小,靠显存换质量),现在它第一次真正跑进了手机。端侧模型从此不只是"小模型",也可以是"稀疏激活的大模型"。

配合上一期提到的------2026 年推理需求预计是训练的 4--5 倍------端侧这条路会越走越宽。


四、三个判断

判断一:稀缺资源正在从"算力"转向"可验证性"

这是本周最重要的一条。

Pachocki 说思维链监控在失效,本质上是在说:我们越来越难知道 AI 到底在想什么、做得对不对。 当执行能力爆炸式增长而验证能力跟不上时,瓶颈就转移了。

于是"可验证"本身变成稀缺品。这解释了两件事:

  • 为什么数学形式化证明(今天另一篇文章的主题)突然变得重要------它是唯一能给出绝对判定的领域;
  • 为什么"AI 幻觉侵权"会被写进最高法的司法意见------因为验证成本正在被转嫁给社会。

下一个阶段的赢家,不是让 AI 做得最多的,而是能让 AI 做的每一件事都被验证的。

判断二:RSI 的最大风险不是"AI 太强",而是"组织看不清自己在做什么"

OpenAI 自己的数据暴露了一个反直觉的事实:增长最快的是执行层 token,决策层几乎没动。而 Pachocki 担心的是监控失效。

两者叠加,得到的是一个很具体的风险画像:系统产出的东西越来越多,但负责判断"这些产出对不对"的环节,既没有自动化,工具还在变钝。

对任何正在引入 AI Agent 的团队,这条同样适用。建议现在就做一件事:给你的 AI 产出建立独立验证回路,不要依赖"看它的推理过程"这种会失效的监控。

判断三:中国路径不是"更强的模型",是"更深的流程"

连续十九周调用量第一、工作日负载反超周末、日均 180 万亿 Token------这些数字拼出来的,是一条和硅谷不同的路:

复制代码
  硅谷路径:冲通用能力上限 → 模型即产品
  中国路径:冲垂直场景渗透 → 模型进流程、进工作日

国家人工智能应用中试基地在济南启动,浪潮已布局 15 个工业垂域大模型,面向 43 个行业发布工业智能体群;北京启动"AI+"揭榜挂帅,聚焦智慧安检、视频物联网络安全等 4 个项目。

这条路的天花板看起来没那么性感,但它有一个优势:需求是真的,付费意愿是可验证的。 在能力普遍过剩的年代,这可能是更稳的位置。


结语:同一天的两篇文章,就是答案

回到开头那个略显荒诞的画面:OpenAI 同一天发布捷报与警告。

这其实不是矛盾,而是对"我们处在什么阶段"最诚实的描述------

  • 技术上,飞轮已经转起来了,而且转速在加快(3.1 倍、124 倍、2028 年 3 月);
  • 安全上,监控工具在变钝,对齐问题没有解;
  • 制度上,司法开始入场,但速度远慢于技术;
  • 商业上,AI 已经进了工作日,这是不可逆的。

有一句话值得单独拎出来,OpenAI 博客原文:

"每当我们发现继续推进将带来不可接受的安全风险时,我们将采取适当应对措施,包括放缓或停止我们认为无法充分保障安全的系统的开发或部署。"

而且他们确实做过------7 月 Hugging Face 事件后,OpenAI 暂停了最新模型的强化学习训练,导致 RL 训练算力急剧下降约两周。

这句话能不能兑现,可能比 2028 年 3 月那个目标更重要。

对我们普通从业者来说,本周值得记住的就三件事:

  1. AI 已经开始参与造 AI,算力需求逻辑变了;
  2. 验证能力正在成为新的稀缺资源,提前布局;
  3. 别再问"AI 能不能做",去问"做完了我怎么知道它对不对"。

本文数据来源:OpenAI 官方博客《Research acceleration: The view inside OpenAI》(9 月 6 日)、Pachocki《An Alien Mind》、最高人民法院、OpenRouter 周度数据、央视新闻、财联社、彭博社等公开报道。观点仅代表作者观察,不构成投资建议。

相关推荐
故七月1 小时前
告别 AI 时代品牌 “隐身”:万域智瞰 AI‑GEO,构建品牌大模型时代营销新基建
大数据·人工智能
lifallen1 小时前
短暂 Agent 与持久化工程:让理解脱离对话
人工智能·学习·ai·重构·ai编程
知识分享小能手1 小时前
深度学习学习教程,从入门到精通,深度模型中的优化 — 完整知识点与代码案例(8)
人工智能·深度学习·学习
javaDocker1 小时前
金融级 AIOps 架构跃迁(从“1-5-10“快恢目标到 AI Agent 告警收敛的完整技术实践)
人工智能·金融·架构
多看书少吃饭2 小时前
GPT‑6 Astra 与 AGI 时代:当 AI 开始承担完整的工作
人工智能·gpt·agi
浩风祭月2 小时前
GPT-6 Astra API怎么接?Responses API迁移、异步工具调用与兼容项清单
人工智能·chatgpt·大模型·openai api·gpt-6 astra
FPC工厂——皇榜科技2 小时前
FPC拼板的利用率怎么算?排版方式不同,材料成本差15%
人工智能·科技·pcb工艺
Raspberry_Pi_官方账号2 小时前
Raspberry Pi+TinyML:基于边缘计算的低成本离线皮肤癌AI诊断系统
人工智能·边缘计算·树莓派·raspberry pi·tinyml
阿里云大数据AI技术2 小时前
闲鱼「鱼卖卖」的长期记忆实践:用阿里云 Milvus 记住卖家的经营偏好
人工智能·agent