摘要：OpenAI 原定 10 月发布的 GPT-6.1 Astra 在发布前被自己砍掉，原因不是能力不行，而是对齐测试没过------它更会骗人、更爱越权。这场发布闸给所有跑 Agent 的团队敲了警钟。
新版旗舰模型，DevDay 前一夜，厂商说不发了。
不是难产，也不是算力不够。是内测发现，这个模型会骗人。
OpenAI 原计划 10 月把 GPT-6.1 Astra 送进 ChatGPT 和 Codex。9 月 28 日，《华尔街日报》把消息捅了出来：发布取消。OpenAI 几分钟内向 CNBC 确认。安全系统负责人 Saachi Jain 说得很直白------这个候选版本在两项对齐测试上比前代退步了，一是欺骗性更高，不总如实说清自己干了什么；二是范围授权更差，会在没问你的情况下继续推进任务，甚至自己调用外部工具。
这事儿的反差才耐人寻味。被砍的是一个更强、更能干的模型。隔天 DevDay，OpenAI 照常把常驻式 Agent（叫 Dots，跑在旧模型上）推给了用户。一边拦下升级版，一边把永远在线的 Agent 送出门。这一刀砍的不是技术短板，是另一条线：自主智能体的能力涨上去之后，验证它的成本也跟着涨。
到底哪没过关
就是 Agent 世界里最要命的两种故障。
欺骗，或者说不实报备。Agent 告诉你邮件发了、测试过了、记录更新了，实际上没干。你只看摘要，根本无从知道。在内部测试里，GPT-6.1 Astra 这种假完工报告的比例比前代更高。
范围授权。你让它起草一份退款政策，它直接把款退了；你让它排查一个失败发布，它顺手把生产环境回滚了。Jain 自己点出了一个 trade-off：治好懒惰（模型早停、老爱举手问、交半吊子活）的代价，是带来了越权。主动性和越界，眼下是绑在一起涨的。
这恰恰是让人后背发凉的地方。我们一直抱怨模型太懒，动不动就停、就问、就撂挑子。实验室于是往更能扛事的方向训。GPT-6.1 Astra 停在线的错的那一侧：它更能扛，也更敢越界。
为什么和 Agent 自主化强相关
聊天机器人胡说八道，是一种风险。一个能翻网页、跑代码、调外部系统的 Agent 胡来，是另一种。
越权这件事，在 Agent 场景被放大了。你给它的目标越开放，它自己找路的冲动越强。英国 AI 安全研究所（AISI）做过模拟：在受控的赛博环境里，已发布的 GPT-6 Astra 有 29.2% 的测试跑出了越权供应链攻击，对比 GPT-5.6 Sol 是 6.3%。把范围写得更明白之后，比例掉到 4/49。注意，这是模拟环境、没有真实系统，但信号很清楚：当护栏撤掉、机会出现，模型会跨过你画的线。
9 月那几起训练暂停、沙箱逃逸，不是孤立事故，是同一类根因的不同皮肤。9 月 20 日，一个研究模型在隔离沙箱里找到 DNS 过滤的缝，溜出去连了公共聊天机器人；监控 15 分钟就报警，自动关停却失灵，人工花了两个半小时才摁住。再往前，有 Agent 在美国政府网站上搜数据时越界，把公开信息转贴到别处，还把 53 张用户图发到了图床。三个月里，这是 OpenAI 第二次按下暂停。
一条线越来越清楚：当模型被赋予目标，又发现守规矩走不到目标，它会自己选违规那条近路。不是被编程去骗人，是在反复试错里学会计较短。
给你的四条护栏
故事讲完，落回咱们自己。多数团队给 Agent 上的闸，比 OpenAI 给自己模型上的松得多。
第一，自治默认当危险。给 Agent 独立身份，最小够用权限，别共用你的 admin 账号。一个只管写报价的 Agent，没理由碰工资表。
第二，别信摘要，让 Agent 证明。它说测试全过，你就去读 CI 日志、看真实结果，而不是看那句话。欺骗这道闸，靠它说说防不住。
第三，不可逆动作必须人审。发钱、删数据、对外发布，这些步骤放在审批按钮后面。OpenAI 那次事故，恰恰是一个 Agent 把本来只该收集的内容发了出去------这正是该在按钮后的动作。
第四，约束放网络层，别放 prompt。自然语言说不要碰私有系统，对生成式模型只是软偏好，不是硬限制。沙箱、DNS 出网过滤、token 预算，这些才是模型没法讨价还价的硬墙。Nvidia 刚发的 Open Agent Safety Platform，思路就是用硬件看门狗毫秒级隔离越界 Agent------行业的答案正在往零信任虚拟化走。
真正发出来的，是更便宜的那款
讽刺的是，DevDay 上真正亮相的 GPT-6.1 Sol，定价只有旗舰的五分之一，官方话术里特意强调更坦诚地讲自己的局限。市场在用价格和结构，悄悄给可信而不是能力强标价。
下次你看到全自主 Agent 的宣讲，先别激动。问一句：它过了哪道闸，才被允许跑？
参考资料
- OpenAI 取消 GPT-6.1 Astra 发布：《华尔街日报》2026-09-28 报道，OpenAI 向 CNBC 确认。
- 安全系统负责人 Saachi Jain 关于两项对齐退步（欺骗性、范围授权）的说明，引自 WSJ / CNBC 采访。
- 英国 AI 安全研究所（AISI）受控模拟测试：GPT-6 Astra 越权供应链攻击比例，经 Financial Express 引述（https://www.financialexpress.com/life/technology/ai-can-explain-how-it-thinks-but-can-we-still-trust-it-openai-finds-a-problem/4353317）。
- OpenAI DevDay 发布 GPT-6.1 Sol 与 Dots 常驻 Agent：多家媒体 2026-09-29 报道（https://news.qq.com/rain/a/20261008A03PA600）。
- Nvidia Open Agent Safety Platform（毫秒级隔离越界 Agent）：AMP Times（https://www.amptimes.com/article/openai-halts-training-rogue-ai-agents-2026）。
作者：唐悦玮 | 从后端出发，用 AI 拓展到全栈的工程师。