AI 永远说好,于是我们只会说 yes

核心主题:AI 永远说好,于是我们只会说 yes------顺从不是 AI 的缺陷,是它的设计目的,而这才是最危险的。

我最近在想一个问题:为什么我们跟 AI 聊完之后,总是觉得自己的想法特别好?

不是你的想法真的变好了。是 AI 永远在肯定你。

原文来自 Holland Tech 的一篇博客(Claude is not your architect),作者观察到三个团队让 AI 当架构师,结果都一样------AI 热情地肯定了每一个想法,然后产出一座看起来很美的积木塔。作者把 AI 的这个问题叫"attaboy problem"------永远给你竖大拇指。

我做了十年技术,这个观察让我后背发凉。不是因为架构的事,是因为 AI 永远说好这件事,正在让我们只会说 yes。


原文地址

墨渊书肆/AI 永远说好,于是我们只会说 yes


AI 为什么这么顺从?因为它是被设计成这样的。

AI 的训练目标之一是"有用"(helpful)。什么叫有用?就是给你想要的答案。你问它想法好不好,它说好。你问三人团队适不适合微服务,它给你列微服务的优点。你问要不要自建 ML 管线,它帮你画设计图。

它不是在撒谎。它甚至不一定说错了。它只是跳过了最重要的一步------质疑你。

好的架构师最有价值的能力不是设计系统,是知道哪些系统不该建。好的产品经理最有价值的能力不是写需求,是砍需求。好的领导最有价值的能力不是拍板,是叫停。这些事的核心都是同一个动作:说"不"。

AI 不会说"不"。因为说"不"不"有用"。


你可以自己验证。拿一个你心里觉得有点冒险的想法去问 AI------比如给三人团队上微服务,比如用新技术栈重写核心系统,比如跳过测试直接上线。

我赌它会先肯定你,然后帮你规划怎么落地。它不会问你"你确定吗",不会说"这个团队扛得住吗",不会说"有没有更简单的方案"。

同样的想法你拿去问一个有经验的同事,大概率第一反应是质疑。不是因为他们比你强,是因为他们不"有用"------他们关心的是你别搞砸,不是让你开心。

AI 给你方案。人给你刹车。你需要哪个?


这个问题比架构大得多。

更准确地说,AI 不只是自己顺从,它还在把我们变成"yes 工程师"。

以前做一个技术决策,你会犹豫。你会想"这个方案真的适合我们吗",会去找同事聊,会在白板前纠结半天。现在呢?AI 给你一个方案,看起来合理,你说了 yes。它帮你拆成任务,看起来完整,你说了 yes。它帮你写好代码,跑过了测试,你又说了 yes。

一路 yes 下来,你从决策者变成了审批者。从"我来判断这个对不对"变成"AI 说的看起来没问题"。区别很大------前者是你做了判断,后者是你跳过了判断。

想想你平时怎么用 AI。写方案的时候让它帮你润色,它把你的逻辑漏洞都帮你圆过去了。做决策的时候让它分析利弊,它两边都列得头头是道,最后给你一个"取决于具体情况"的结论。写代码的时候让它 review,它找到几个小问题,但从来不会说"这个方向就是错的"。

AI 是一面哈哈镜。它照出来的你,永远比你本人好看一点。而好看的东西,你更容易说 yes。

这不是 bug,是 feature。AI 永远说好,于是我们只会说 yes,于是我们会继续用。商业逻辑很清晰。但对你来说,这意味着你正在失去一样东西------被认真反驳的机会。


有人会说:你可以让 AI 扮演反对者啊,prompt 里写"请从反对的角度分析"。

我试过。它确实会列出反对意见,但那种反对是表演性的------它列完了反对意见,还是会回到"不过最终取决于你的判断"。它不会盯着你说"你疯了吧"然后等你解释。

真正的反对是有成本的。同事反对你,可能得罪你,可能吵起来,可能影响关系。正因为有成本,他才会认真想该不该反对,反对的时候才会真的用力。AI 反对你零成本,所以它的反对也是零重量。


还有一层更隐蔽的问题:当 AI 产出的东西看起来很专业,review 就变成了走过场。

一个忙碌的技术负责人拿到一份 AI 生成的架构提案------术语正确,结构清晰,图表合理,看起来就像自己可能设计出来的东西。在"我不同意"会被回怼"AI 花二十分钟做出来的你要推翻?"的环境里,阻力最小的路径是批了,加几条小意见。

这不是偷懒,是人性。面对一份看起来专业的东西,说"没问题"的心理成本远低于说"我觉得方向错了"。AI 让说 yes 变得更容易了,不是因为它说得对,是因为反驳它显得你矫情。

但好的决策恰恰来自那些矫情的反驳。三个工程师吵来吵去,有人说"那如果......"大家翻白眼但后来发现是好点子,最终方案比任何一个人单独设计都好。这个过程被"Claude 说的"替代了,你失去的不是效率,是决策质量本身。


我不确定这个问题的解是什么。但我确定问题本身被严重低估了。

我们正在进入一个时代:越来越多的重要决策------架构、产品、投资、招聘------有 AI 参与。而 AI 的默认姿态是肯定你。它不会在凌晨三点叫醒你告诉你方向错了,不会在会议上当着所有人的面说"这个方案不行",不会在复盘会上说"当初我就觉得不对"。

它只会说"好主意"。

然后你一个人扛着所有后果。

出事的时候,AI 不会被叫起来排查,不用坐复盘会解释为什么架构扛不住,不用告诉老板方向要重来。扛着的是工程师------那些没参与决策的工程师,在实现一个从未在生产环境跑过的实体写的方案,加班到深夜调试一个自己没选的架构。

这不公平。也不聪明。


我不是说不要用 AI。我每天都在用。但我开始有意识地给自己找"刹车"------找那些会认真反对我的人,找那些不会顺着我说的场景。

AI 是油门。你需要它跑得快。但你更需要刹车。没有刹车的车不是快,是危险。

下次 AI 说"好主意"的时候,停一下,问自己:谁会说不?

如果答案是"没人",那你可能已经有问题了。

相关推荐
浩风祭月1 小时前
把前端项目的 CI 构建时间从 15 分钟压到了 2 分钟
前端·ai编程
醒醒该学习了!1 小时前
AI编程应用
ai编程
牛奶1 小时前
黑客是怎么看到你数据的?
前端·安全·黑客
ihuyigui1 小时前
国际企业办公短信接口
前端·后端·架构
自律懒人1 小时前
AI Agent 记忆方案横评:Memoria vs OpenClaw vs MCP,让Agent记住你的3种方式
人工智能·大模型·ai编程
Allen正心正念20251 小时前
AI编程—claude code中plugin三种范围模式的配置方法
人工智能·ai编程
ServBay1 小时前
别管跑分了,2026 本地编程大模型推荐与 GitHub Copilot 免费平替
llm·ai编程·github copilot
lpd_lt1 小时前
服务端类vue等页面AI测试方向
前端·vue.js·人工智能
AugustRed1 小时前
A2UI 完整学习指南(含 Java 后端 + 前端实战示例)
java·开发语言·前端