姚顺雨长谈:在 Anthropic 和 Gemini 训练模型,英雄主义已经过时

本文整理自 YouTube 访谈视频 Yao Shunyu: Let Me Go a Little Crazy! Training Models at Anthropic & Gemini, Heroism Is Over,主持人小君,嘉宾姚顺雨(Google DeepMind 研究员,前 Anthropic)。

视频实际录制于约两个多月前,文中部分事件(如 Meta 收购 Manus、DeepSeek 4)在录制后才发生或反转,已尽量保留嘉宾当时的判断视角。全文为访谈精华整理,约为原视频信息量的 1/3,保留所有核心观点与金句。

嘉宾简介:硅谷两个"姚顺雨/宇"

主持人小君开场介绍:硅谷有两个名字几乎一样的姚顺雨/宇。一个是前 OpenAI、后加入腾讯任首席 AI 科学家的姚智晖(音),他上过节目;今天的嘉宾是另一个,姚顺雨,此前在 Anthropic,现在在 Google DeepMind。

姚顺雨自述履历:

我本科在清华基科班,当时做凝聚态理论;博士去 Stanford 做理论高能物理,做黑洞相关的量子信息方向;离开 Stanford 后去 Berkeley 做了两周博士后就辞职了;然后去 Anthropic 待了一年;去年 9 月底 10 月初加入 Gemini。

两人最大区别:姚智晖一直是计算机背景,姚顺雨是半路出家。"我其实是后来者,以前主要做理论物理。"

被问到是否是物理竞赛保送清华时,姚顺雨哈哈大笑纠正:

不是竞赛保送。竞赛我只进了省队,没进国家集训队。当年我们那一届,只有进国家集训队才能保送。我是通过清华自主招生,降到一本线进的。

01 模型能力没有放缓,Pre-training 还远没撞墙

主持人:姚智晖去年说"AI 进入下半场",你怎么定义今天的 AI 阶段?

姚顺雨:我其实不太懂"上半场""下半场"具体指什么。但 AI 确实进入了一个新阶段,人们不再担心"AI 能不能做到这件事",而是开始担心"这件事有没有被正确地定义"。这是一个很大的区别。

一年前我在 Anthropic,大家还在担心"OpenAI 的推理那么强,我们有没有机会追上、甚至超过"。现在至少在 Gemini、OpenAI、Anthropic 之间,我没有看到谁真正担心自己追不上。真正难的是搞清楚自己该做什么。模型能力被拉平了。

主持人:所以是同质化了、商品化了?

姚顺雨:纸面上确实如此。比如 SWE-bench 大家都在 80% 上下,谁比谁高一到两个百分点,主要还是噪声而不是信号。但实际产品体验上差异是明显的,Claude 在 agentic coding 上仍然是标杆,Codex 在纯 coding 上追近了一些,Gemini 在推理和通用场景上更稳。

主持人:从 Q1 2026 的时间点看,模型开发的节奏在放缓吗?

姚顺雨:绝对没有。作为研究者的个人感受是:模型越来越"好教"了。以前教模型做一件事要花很多心思,现在大多数时候你只需要把问题定义清楚,构造合适的数据和环境,剩下的就自然发生了。

主持人:为什么模型的"学习能力"变强了?

姚顺雨:一部分原因在于 Pre-training。过去几个月 Pre-training 在持续变强,而且我判断未来 4 个月还看不到尽头。

几个月前很多人讨论 Pre-training 的 Scaling Law 是不是到头了。我的经验是:没有。而且我判断,在接下来 4 个月里,没有任何迹象表明它会结束。

主持人:那为什么那么多人喊撞墙?

姚顺雨:一个人觉得某种规律到头了,无非三种情况:

  1. 他觉得这个规律的适用范围到了极限;
  2. 他觉得这个规律成立的某个条件不满足了(比如数据墙);
  3. 他的工作里有 bug,他自己没意识到,于是觉得规律到头了。

我的观察是,大多数撞墙的人,都是第三种。很多时候修一个 bug 带来的进步,远大于某个炫技的算法。

主持人:怎么系统地排除 bug?

姚顺雨 :这就是 Gemini 和 Anthropic 做得好的地方。在 Pre-training 这个尺度上,某些行为可能和你的想象不同。你能否设计合理的 ablation(消融实验)去验证:你想象中的因素,到底是不是真的因素?关键是系统地做事情,当结果不符合预测时,你能否系统地排除所有可能性。

这其实也是做事情的一种信念:遇到 bug 你相信能解决,就觉得没到头;遇到 bug 你觉得解决不了,就觉得到头了。每个人都必然会遇到 bug。

02 为什么 Coding 跑得最快

主持人:过去几个月 Coding 发展最快,为什么?

姚顺雨:Coding 不是这几个月才快的,从 Claude 3.5(外界叫 3.6)开始就一直在快车道。它有两大优势:

第一,反馈信号容易定义。写一段代码实现一个功能,输入、输出、测试都可以很清楚。对就是对,错就是错。

第二,数据有天然基础,就是 GitHub。GitHub 汇集了过去几十年优秀程序员的代码,可以从这些代码出发构造出大量的训练环境。

还有产品层面的原因:优秀程序员的代码风格其实相当一致,简洁、清晰、结构合理、抽象得当。Coding 不像做社交或游戏,要满足所有人的不同口味。这让 Coding 成了一个更"简单"的产品。

主持人:你自己用 Claude Code(嗯,Google 不能用 Claude Code,这问题差点让我被开掉),效率提升了多少?

姚顺雨:保守估计 90% 的代码是模型生成的。如果不算保守,大概是 99% 到 100%。剩下那 10%(保守口径)主要是它还写不了的部分。

作为研究者,从实现想法到跑实验的效率,相比一年半前加速了大概 20 到 50 倍。你可以同时开好几个模型,并行试好几个想法,有时候它还能帮你盯着实验结果。

但有意思的是:它让我工作时长反而更长了。 因为开发速度变快,你想试的东西越来越多。以前看不懂的代码要预约作者几小时后聊,现在 5 秒钟问 Gemini 就有答案,于是你就一直做下去。

主持人:所以 Google 已经不是当年那个可以养老的 Google 了。

姚顺雨:在 GenAI 这个领域,没人能躺平。除非你对技术完全没野心,那就没人打扰你。但凡你还想做点对的事,大家都是相当自驱的。我一般早上 9 点起来查邮件、看前一晚的实验,10 点到公司,一个人在美国的时候待到晚上 10 点、11 点。

03 程序员会被 AI 取代吗

主持人:程序员完全被替代的那一天会来吗?

姚顺雨:会来,但不会是一夜之间。不会出现"今天程序员还在,明天集体被裁"。它会是一个渐进的过程,有些公司已经在裁员了。

AI 是一种高度中心化的技术,会让少数人变得更强,但会让大多数人失去独特价值。传统软件工程的最终结果,可能是千分之一的人做完了过去所有人做的事,拿着 100 倍的工资。(这个数字是瞎说的,可能是千分之一,也可能是百分之一。我是一个著名的悲观主义者。)

主持人:那千分之一的程序员长什么样?

姚顺雨

  1. 技术必须非常强。技术弱的话毫无意义,AI 替代不了你说明你做的活也太简单了。
  2. 要能理解自己的工作在整个大组织里应该往哪里走,怎么和公司的未来发展契合。这种事很难让模型理解。
  3. 规划能力强,能把一个复杂的大任务拆解成很多小事情,交给不同的 AI 去做。

但请注意,这三件事 AI 现在做不到,不代表 6 个月后做不到。也许半年后你再来问我,AI 已经能做最后一件,那就剩两件;再过半年可能两件也能做了,我的答案会更悲观。

04 OpenClaw、Manus 与"壳"的命运

主持人:你怎么看 OpenClaw 这个新产品形态?

姚顺雨:有趣的是,这件事在行业外讨论得比行业内更激烈。对业内人来说,没什么特别惊讶的,公司内部早就做过类似的实验或 demo,只是没作为产品正式宣传。

技术上它不证明什么新东西。OpenClaw 依赖的模型能力,在今年初其实已经准备好了(大约是 Opus 4.5 那个时间点)。它也不是一发布就火,是发布一段时间之后才火的。

我认为它是模型能力的自然溢出。 它最大的价值是向大家展示了一种可能性:你可以控制多个不同的模型,让它们做不同的事,最后汇总起来形成一个长周期的项目。这种共识以前是没有的。

主持人:从去年的 Manus 到今年的 OpenClaw,质变的差别在哪?

姚顺雨:说实话我自己也没完全搞懂。你问我"为什么 Manus 当时做不到",我也答不上来,也许 Manus 只是哪里做错了。

主持人:但是 Manus 卖给了 Meta,OpenClaw 卖给了 OpenAI(注:Meta 对 Manus 的收购后来撤销了,本期节目录制于撤销之前)。为什么"壳"最终都卖给了模型厂?

姚顺雨:要长期生存,就要考虑壁垒。目前的壁垒大多在模型侧;未来产品侧会不会出现壁垒,不确定。数据飞轮这件事,目前我没看到任何场景真正跑通。除了 Agentic Coding,几乎没有真正的原生 AI 场景成功,因为本质上 Chatbot 是搜索的延伸,而不是独立于搜索的新物种。

壳要活下去,我能想到两条路:

一条是逃得足够快,增长速度足够快,快到模型公司反应过来时你已经占据了用户心智,Cursor 走的就是这条路。但即便如此,Cursor 现在和 Anthropic 的关系也非常微妙:曾经是紧密合作伙伴,现在 Anthropic 自己做 Claude Code 做得很成功,Cursor 又在努力训练自己的 Composer,他们已经是竞争关系了。Coding 这种生产力工具,本质上是赢家通吃。

另一条是市场足够小,小到模型公司懒得做。Midjourney 就是典型。你要让 Gemini 全力去做一个 Midjourney 出来,花钱花数据是能做出来的,但这个市场小到 Gemini 不愿意花时间。这也算一种生存方式。

主持人:有人成功逃出过模型厂的手掌心吗?

姚顺雨:大的我还没见到。Midjourney 算一个小的。Lovart 这类我觉得有机会,但总的来说,原生通用场景里我还没看到成功案例。

05 豆包、Seedance 与中美的真实差距

主持人:你用过豆包吗?

姚顺雨:只用过一两次,是别人拿豆包手机给我看的时候。

主持人:硅谷是不是有一种"智能鄙视链",所以你们不用豆包?

姚顺雨:不至于那么严重。第一是中国人在美国用美国模型本来就麻烦,反过来也一样。第二是我自己工作用 Claude 和 Gemini,生活里也没有太多琐碎困惑要问豆包,我生活里更多的困惑也是技术难题。

但我必须承认:豆包的语音生成,客气点说是世界最好之一,不客气地说就是世界最好。 这是我最直观能感受到的独特之处。它在产品上的速度也做得很好,我不需要听它的思考过程,只想问点生活琐事。

主持人:技术上这难吗?

姚顺雨:我没做到那个方向,不知道具体多难,但应该是非常耗时的事,无论数据还是各种优化。这一定是模型层面的事,可能也有产品层面的成分。

主持人:Spring Festival 期间大家都在谈 Seedance,Google 焦虑吗?

姚顺雨:这份焦虑还没传到我这里。多模态生成团队可能有压力。但我觉得没有发生范式转移,更多是字节在数据和细节上做得非常非常到位。字节在多模态生成上一直有相对优势。

主持人:Seedance 的强是产品还是模型?

姚顺雨:我没在字节待过,只能猜,模型大概占多数。因为多模态生成现在还属于科学问题,范式没有固定,每家都可能有技术上的大小差异。

主持人:你评价一下吴永辉(字节大模型团队 Seed 负责人,从 Google 跳到字节)?

姚顺雨 :我没跟他直接打过交道,所以不能给很客观的评价。但在 Gemini 这边,我们能看到他过去提交的代码、带过的项目,我感受到的是:他是我见过的少数水平极高、又非常资深、却仍然具备强技术能力的人,这种组合极其稀缺。

主持人:从 Q1 2026 这个快照看,中美模型能力的差距在拉大还是缩小?

姚顺雨:明显在缩小。但最终会不会被完全追平、甚至中国反超,这个问题我认为现在不清楚。

中国算力确实处于明显劣势。但这个劣势可能反而催生了一些有意思的事,比如中国的模型公司其实相当擅长蒸馏。

06 蒸馏:硬蒸又蠢又没道德,巧蒸是真正的多智能体

主持人:Dario 最近点名了三家蒸馏 Claude 的公司。你怎么看蒸馏?

姚顺雨 :蒸馏其实提出了很有意思的科学问题。有两种蒸馏:硬蒸和巧蒸。

硬蒸 最简单的例子:我从 Claude 抓一堆生成的 token,强行拿来训练。这样做的人,首先在商业上不道德,其次在智力上也很愚蠢,因为这本质上说明这家公司根本不知道自己想做什么,唯一能做的就是抄别人,让自己的模型数据好看一点。

巧蒸就有意思得多。举个例子:我在自己生成的数据链路里,用其他模型作为辅助模型;或者用另一个模型作为我自己模型答案的评估器。这在商业上是灰色地带,但技术上相当有趣。

因为你想,某种意义上,中国的实验室反而成了多智能体训练的先驱。而且是真正的 Multi-Agent,因为它来自不同的模型,每个模型的语言分布都不一样。把这整合进一个训练系统,可能比我用几个 Gemini 一起做还要技术有趣。

所以巧蒸这件事,我不知道商业上最终会被证明是明显的错误还是明显的正确,但技术上它相当有趣。

主持人:你说的硬蒸和巧蒸,分别指谁?(请后期消音)

姚顺雨:(笑)我从没在中国实验室待过,不知道具体是谁。但感觉上,XXX 应该是硬蒸过的;XXX 早期可能也蒸过,但后来逐渐转向软蒸。字节应该蒸得比较少,我觉得字节模型还是有一些独特之处的。

07 Anthropic 为什么能下重注,大公司学不会

主持人:Anthropic 为什么能在 Coding 上坚定下注?

姚顺雨:首先这是试出来的。Claude 3 发布后,外界在 Twitter 上讨论"Claude 3 写代码好像比 GPT-4 还好",那个年代 GPT-4 还和大家有明显差距,所以"在某个点上比 GPT-4 强"是非常了不起的信号。Anthropic 反应非常快,一旦信号合理就立刻 All in,没有大公司那种冗余。

主持人:这种执行力从哪来?

姚顺雨 :来自 Dario 的某种特质。但更根本的是:Anthropic 实行 Top-down(自上而下)的前提,是技术决策者必须是公司自己的联合创始人。

第一,你的技术领袖技术必须服众,下面的研究员才会信任;第二,他得是公司决策者,能为公司负责。Anthropic 同时满足这两条,Jared Kaplan、Sam McCandlish 这些人,既是公司联创,又是 Scaling Law 论文、GPT-3 论文的共同作者。他们是一起在战壕里打过仗的一群人。

这就是为什么 Anthropic 这种"下重注"的能力,看起来别的公司也能学,但实际很难学。它要求技术一号位有可信度,要求 CEO 不成为障碍,要求创始团队互信到没人离开。这三件事叠加在一起,是非常稀缺的组合。

主持人:Dario 在其中扮演什么角色?

姚顺雨:我只能讲技术领袖有决策权,至于 Dario 在他们的决策讨论里具体起什么作用,我不知道。但他至少没成为障碍。

主持人:Google 这种大厂呢?

姚顺雨:完全不同的打法。大厂的思路是:我尽量把赌博成分降到最低,在所有方向都有储备,别人做什么我都能跟上甚至领先。Google 在 Pre-training 上已经回到了自己的舒适区,把 Pre-training 这种范式明确的领域,变成工程项目来管理,靠 Google 极强的工程管理能力稳步推进。Post-training 不确定性更大,就更 bottom-up 一些,让大家更广泛地尝试。

08 Claude 3.7 是怎么炼成的

主持人:你加入 Anthropic 时,公司最重要的项目是什么?

姚顺雨:把大规模强化学习做大,用来提升 Coding 能力。这就是为什么我所在的组越来越大、越来越重要,最后大家一起训出了 Claude 3.7。

主持人:你加入时他们已经看到 Coding 能成了?

姚顺雨:是的。3.5 new 已经出现了 Coding 的迹象,Anthropic 模型在 Agentic Coding 上比其他模型更好。管理层也注意到了。我去的时候大家已经知道这事能成、也很重要,但不太清楚怎么做。我的工作就是和大家一起搞清楚怎么做。答案就是大规模强化学习。

主持人:3.7 是分水岭吗?

姚顺雨 :是 Anthropic 后训练的分水岭。3.7 之前,后训练还是相对小规模的修修补补。很长一段时间里,没人真正懂后训练怎么 Scale up。3.7 这个节点,OpenAI、Anthropic、中国的 DeepSeek 都意识到了关键,要找到合适的环境,环境里的反馈信号要足够清晰,环境本身还得是一个强大的数据源。

主持人:你做的事具体是什么?

姚顺雨 :主要是 Agentic Coding 相关的环境、数据准备,以及算法上让训练更高效、更稳定。但必须强调,算法上的改进肯定有,不过我没觉得自己在这件事里有多重要,我主要是运气好,在一个重要的项目里、在一个重要的时间点加入,做了一些事。

这个时代的 AI,本质上是一个不可阻挡的浪潮。你不做,别人一样能做。在这个时代里,所有对个人形象的包装,都带着炒作的嫌疑。

主持人:有什么 know-how 是其他实验室想知道的?

姚顺雨:公司不让我说。但实际上很多 know-how 也没那么有用,因为现代 AI 训练是一个庞大的系统,你必须理解整个系统才能有 holistic(整体)的理解。

举个例子:强化学习里,生成 trace(轨迹)的机器、和实际训练模型权重的机器,可能是不同的。有的是数值差异,有的是用了异步训练架构。每家公司这两者的差异程度不一样,差异大的公司,你算法的主要精力都花在怎么稳定训练上;基础设施好的公司,才能花更多精力在训练效果上。所以你问我 Anthropic 怎么做、Gemini 怎么做,我的回答反而会误导别人,因为脱离了基础设施谈算法,意义不大。

09 离开 Anthropic:Dario 的反华与文化的冲击

主持人:你为什么辞职?这件事酝酿了多久?

姚顺雨:大概一个多月。

一个相对次要但确实存在的原因:我不太认同 Dario 的反华立场。 他作为个人有什么观点我无所谓,但作为公司 CEO,把这种观点推到那么极端的程度,是一种非常情绪化的表达。

主持人:因为反华离开的人占多少比例?

姚顺雨 :我公开场合说 40%,这个数字要打折扣,它不是主因,但确实是个不小的原因。

主持人:更主要的原因是?

姚顺雨:更广义地说,公司经历了一轮文化冲击。我从加入到离开的那三四个月,公司人数暴增,从外面来了很多人,和原来的文化产生冲突。

原来 Anthropic 的文化相对简单,像一个手工作坊,大家都是朋友,互相知道对方在做什么,没人花时间搞个人宣传这种没用的东西。所有人手头都有大量正经事要处理。但人一多,这种文化必然被冲击。确实来了一些我个人不喜欢的人(不代表他们真的差,只是我个人不喜欢),我特别不喜欢那种在 Slack 上花大量时间讲大道理的人。Idea is cheap。 很多想法大家都想得到,难的是怎么把它落地成一步步可执行的步骤。

另一个动机是我自己想学点不一样的东西。Anthropic 非常专注,你想学语言模型相关的一切它非常好;但多模态生成、基础工程基础设施,Anthropic 基本不做,你学不到。

主持人:当时你觉得 Anthropic 和 OpenAI 谁会先"变得不重要"?

姚顺雨 :我离开时对 Anthropic 挺悲观的,觉得它可能先变得不重要。因为它的主要收入是 API、卖 token,这是个坏生意,只有一家公司能把这生意做好,就是 Google,因为最终都归结为价格战,而你没有 Google 那条完整链条。

但后来发现我过度悲观了。Anthropic 在产品上做了很多巧妙的事,Claude Code 越来越好用,Cowork 把工作和效率相关的东西串了起来。再加上 OpenAI 被 Google 揍了一拳,Anthropic 反而稳住了,目前看还略占优势。

主持人:后悔吗?

姚顺雨:不太后悔。我个人的动机是换一个地方提升自己,这个选择没错。

10 Boris 与 Claude Code:罕见的"产品英雄主义"

主持人:Anthropic 今年产品上的巧妙,尤其是 Claude Code、Cowork,是哪来的?

姚顺雨:Claude Code 我大概知道。Cowork 我离开后才出现,没见证。

Claude Code 至少在最初,是 Boris Cherny 自己想做的事,他想提升自己和同事的工作效率,最后做成了一件对所有人都重要的事。

主持人:Boris 是研究员还是产品经理?

姚顺雨 :他是研究员,但主要做产品方向。Anthropic 后来有了独立的产品部门,但以前不是这么分的。Anthropic 的产品经理似乎真的很懂 AI,这也是为什么我开头说,AI 短期内还替代不了好的产品经理。好的产品经理知道怎么和 AI 协作。 这跟上一代靠花哨展示的产品经理完全不同。

主持人:这算不算"产品层面的个体英雄主义"?

姚顺雨:人和产品这件事上,可能确实存在一些个体英雄主义的空间。Coding 这件事甚至比做模型还多一点企业英雄主义的味道,看谁能更快地下注。

11 为什么选 Gemini 不选 OpenAI

主持人:你离开 Anthropic 时,OpenAI 也是选项吧?它当时势能比 Gemini 强。

姚顺雨 :OpenAI 确实是我的选项之一,xAI 也是。但最后没去 OpenAI 的主要原因,是我对它当时的文化有明显顾虑。说白了就是:踏踏实实做事情的人,比 Gemini 少,也比 Anthropic 少。我很看重这一点。

主持人:为什么 Gemini 最终胜出?

姚顺雨:因为是他们来找我。他们来找我,就会让我去跟他们的人聊。聊的过程中你能感受到这个人水平怎么样。Gemini 有很多工程师,技术强到让我震惊,我从他们身上学到很多。

主持人:所以是人的因素。

姚顺雨:对。如果你想要的是研究自由和探索自由,想从更广泛的人身上学习,这个世界上很难找到比 Gemini 更强的地方。

主持人:你加入 Gemini 时,外界对它的预期高吗?

姚顺雨 :我自己预期挺高。我觉得行业里对 Gemini 的印象,在 2.5 那一代发生了变化,能明显看出 Google 开始上道了。真正的大转折是 Gemini 3 + Nano Banana 两件事的叠加。单靠 Gemini 3 不会有那么好的效果。 Nano Banana 让大量用户下载了 Gemini app,紧接着 Gemini 3 发布,用户留下了。这两件事缺一不可。

主持人:现在 Gemini 的市场份额大概多少?

姚顺雨:我没仔细查数据,感觉在 20% 左右。

主持人:你说过"OpenAI 救了 Google 一命"?

姚顺雨 :是的。大家一直担心 Chatbot 会彻底替代搜索,如果这事真发生 Google 会非常难受。但幸好是 OpenAI 第一个做 Chatbot,Google 意识到这事重要,但 OpenAI 没做到极致,没把搜索完全吃掉;然后 Google 自己追上了 Chatbot。如果换一个虚构世界:有一家公司既做 Chatbot 又一路高歌猛进,一口气把搜索吞了,Google 会非常难受。

主持人:Google 的产品一直被说慢。

姚顺雨 :Google 一直慢。但 Google 真正擅长的是找到一个极简的产品形态,所有人长得都一样,然后在技术上疯狂滚动,搜索引擎就是典型。Google 一直处于"做得很好但华尔街不买账"的状态,大家总问它壁垒在哪、没有巧妙的产品设计、没有留存机制,但它就是靠技术活到了今天。

12 Chatbot 不会是终极形态,但我也答不上替代品

主持人:你不觉得现在所有人都还只用 Chatbot 跟 AI 沟通,挺蠢的吗?

姚顺雨 :是挺蠢的。模型明明有那么多能力,用的却是 Chatbot 这种方式。但说实话,我没法给出理性的、可量化的标准来解释这件事。更多时候你只是觉得:这事就是蠢。

主持人:那应该用什么?

姚顺雨:(沉默)......我答不上来。

注:原视频录制于约两个多月前,当时 Agent 的形态还不清晰。姚顺雨反复强调 Chatbot 不会是终极形态,但也没给出答案。

主持人:国内现在大家都在争"超级 App",硅谷为什么没人谈?

姚顺雨:因为美国的 Enterprise(企业服务)和生产力软件市场太大、利润率太高。美国在 ChatGPT 之前只有一家公司真正做 C 端(ChatGPT),而且其实也没赚到什么钱。

中国的强项恰恰是 C 端,能想出极其复杂的产品或结构,用一种你觉得很迂回、很不自然的方式让利润长出来。比如 TikTok,它不是"你看一个视频我收你两分钱",而是免费看视频,但偷偷加广告、偷偷做直播、偷偷做电商。美国生产力软件做得很直接:成本 150 卖你 200 赚 50;中国 C 端则是你一开始看不出它怎么赚钱,等它转起来你已经插不进去了。

主持人:所以 Meta 应该直接抄字节?

姚顺雨:Meta 不如字节强,Meta 还没找到自己的位置。美国没有一家公司找到豆包那种位置。

主持人:字节被理解了吗?

姚顺雨:我觉得没有。但字节是严重被低估的公司,至少从市值看是严重被低估的。在 C 端市场,没有美国公司能和字节竞争。但它毕竟是中国公司,外界认知会受影响。

13 个体英雄主义已经过时

主持人:你反复强调"集体主义",为什么?

姚顺雨:因为 AI 这件事本质上是简单的。除了可能存在的那种突然变化(找到某种深刻洞察)之外,后续的很多想法其实非常 trivial(微不足道),任何人都能想到、都能做。你只是运气好、抓住了机会。

对语言模型来说,个体英雄主义的时代已经结束了。那个英雄时代大约结束在 Transformer 出现的那一刻,找到能把规模做起来的那项技术,那个人或那一小群人可能是英雄。但在那之后,就是集体主义了。 问题是这一群人能不能朝一个目标一起努力、一起投入时间和精力。

主持人:那为什么 AI 研究员的身价被炒得这么高?

姚顺雨 :一方面是大家觉得稀缺。但其实培养一个人没那么难,难的是要有机会参与重要的事,聪明但没机会也没用。另一方面,对个人的炒作有点过分了。 我个人当然受益于此,但我还是要说:这就是一个集体主义的事。

主持人:你面试人时怎么判断可靠?

姚顺雨:我有一道面试题(应该不涉及秘密):给候选人 24 小时,从 0 到 1 完成一个强化学习项目。模型、数据、算法他自己选。24 小时后,我们一起讨论一个小时。

这个题在 AI 时代其实不难,因为 AI 能帮你把整个项目跑通。但设计上它考两件事:

第一,你能不能有效地利用 AI,现在考察"代码写得好不好"已经没用了,绝大多数人不需要自己写代码。

第二,里面有个陷阱:如果你把所有事都丢给 AI 但自己没真正理解 AI 做了什么,那一小时的讨论就会暴露你。

还有个比较"黑"的设计,为什么是 24 小时?看这个人有多看重这个机会。 能熬多久就熬多久,撑不住说明他不够看重。

主持人:年轻人现在入局 AI 还是蓝海吗?

姚顺雨 :单纯做语言模型已经不是蓝海了,最后一班车已经开走。 我自己是赶在最后一班车之前上的车。

但 AI 是一个非常广的方向,语言模型只是其中很小一块。多模态生成、机器人,可能都还有更多机会。更夸张的,比如用 AI 辅助真正的科学问题(量子控制之类),那是更蓝的蓝海。

对年轻人来说,做当下最热的事,可能不是对的选择;做没人做过的事,可能是更好的选择。

14 半路出家:从宁夏小城到 Stanford 再到 AI

主持人:你怎么走上这条路的?

姚顺雨:我出生在宁夏一个非常小的城市,叫大武口,存在的理由是因为那里有一个煤矿。小学跟父母去了上海,初中高中都在上海。我读的初中叫上南中学东校,是一所没什么人知道、没什么人搞竞赛的学校。我读的小学叫德州二村小学(自己也快记不清名字了)。

主持人:你不是物理竞赛保送的吗?

姚顺雨:(笑)不是,前面纠正过。竞赛我只进了省队,没进国家集训队,所以没有保送。

但高中选学校时,我做了个奇怪的选择:上海有所谓"四大名校"(华二、上中、交大附、复旦附),我的分能进这四所,但进不了它们的竞赛班。我又非常想搞竞赛(因为我从没搞过),于是选了一所稍差的学校,格致中学,因为那里有竞赛班。 当时的心态用今天的话说就是 underdog,光脚的不怕穿鞋的,值得一试。

主持人:为什么执意要搞竞赛?

姚顺雨 :两个原因。一是我觉得它真的难,比不搞竞赛的人学的东西有挑战得多,搞竞赛的人看起来很厉害,不搞的话你就是一颗平庸的石头。二是我从没搞过,所以必须找机会搞一次。 我性格就是这样,总是喜欢做自己不擅长的事。

主持人:后来怎么进的清华?

姚顺雨 :高三前的暑假去清华夏令营,最后一天听说他们要做自主招生,但只面向北京学生。我疯狂给招生办老师发短信,质问他们为什么只给北京学生、不给上海学生机会。 他们竟然同意让我们考了。后来我和几个上海的同学一起去考,我签约了,降到一本线录取。

这件事给我最重要的人生原则:Be bold(大胆一点)。不试永远拿不到,试了也不一定拿到,但不试就一定拿不到。

主持人:考得怎么样?

姚顺雨:出来觉得考砸了,一半题没做完。后来发现别人也没做出更多。高考果然没考上清华,但因为自主招生降到一本线,除了清北之外哪都能去。

主持人:你父母什么态度?

姚顺雨 :我父母最好的地方就是不怎么管我。他们可能在某个阶段想控制我,后来发现控制不了。大多数中国家庭,孩子愿意跟父母商量就已经算很好了。我一般是通知。"我要去参加自主招生了!"这种事,填志愿他们都没看过我的表。

主持人:所以你挺叛逆的?

姚顺雨 :如果这事是我自己想清楚的、想做的,别拦我,我一定会全力以赴;如果我不想做,逼我也没用。好胜心挺强,但主要是跟自己较劲。 当然如果你恰好也觉得这事很重要,那我一定要做得比你好。

15 量子物理:用 5 年学到"要做有客观标准的事"

主持人:你为什么去学量子物理?

姚顺雨:当时基科班有个好传统,鼓励学生尽早进实验室、通过科研来学习。我想做理论方向(这可能也是一种病),老师推荐我去清华高等研究院(杨振宁先生创办的研究院),找到一个还很年轻的老师叫王仲,是我的本科导师。

我们一起做的是拓扑绝缘体相关方向,后来做开放量子系统。我们做的那项工作(在开放量子系统中建立非厄米系统的描述方法)后来成了那个方向比较重要的工作,它其实是一次范式转移。

主持人:非厄米系统是什么?用大白话讲一下。

姚顺雨 :量子力学最基本的假设之一,是孤立系统的演化是幺正演化,描述它的算符叫哈密顿量,对孤立系统它是一个厄米矩阵。但现实里大多数系统不是孤立的,比如你作为一个活人,必然和外界的物质、信息有交换。研究这些跟外界有信息交换的量子系统,就是非厄米系统的来源。

我们发现一个很奇怪的现象:过去用厄米系统描述开放系统的一整套范式(Bloch 波那一套)会失效,能量本征态在非厄米系统里会聚集在系统的一侧,而不是均匀分布。我们系统性地建立了一套描述方法,后来有很多跟进工作。

主持人:为什么不继续做下去?这明明是个范式转移。

姚顺雨 :捕捉一个范式转移是困难的,这是人性的弱点,我总是爱挑战自己,去做自己不会做的事。 回头想,那项工作如果再深耕几年,可能会让我更有名、更多引用、更好教职。但从科研生涯的角度看,不那么 exciting 了。所以博士我换了方向,去做高能理论。

主持人:博士做高能理论,你满意吗?

姚顺雨 :博士对我来说个人成长很大,但对这个世界,几乎没有贡献。

高能理论发展到今天这个阶段,已经完全超出实验能触及的范围,无论能量尺度还是微观尺度,实验都跟不上理论。它进步的来源不是实验,而是数学自洽性。 这本身很科学。但当完全没有实验、没有客观标准时,必然会出现不止一个自洽的框架,最后谁做得好、谁做得差,其实取决于领域里老兵的主观判断。

我在这上面花了 5 年,学了很多知识,也学到了一个大教训:要做有客观评价标准的事,或者至少是能对世界产生影响的事。

主持人:博士后不是去 Berkeley 了吗?为什么两周就辞了?

姚顺雨 :其实正式入职只待了两周。入职前我就在 Bay Area,提前过去转了转。我跟 Berkeley 的老师说,我可能要去做 AI 了,也许不该入职。但 Berkeley 的人特别好,"没关系,先入职,想清楚再说,能待多久待多久。" Bay Area 两所学校的老师都很照顾人。

主持人:物理对你的 AI 工作有帮助吗?

姚顺雨 :硬实力上其实帮助不大,物理转 AI 的人其实非常少。但性格上有帮助,物理学家可能更倾向于刨根问底,想更系统地理解一件事。不过这个特质不是物理学家独有的,做化学的、生物的、计算机的很多人都有。

值得注意的是,大语言模型领域,特别是 Anthropic,确实有很多物理背景的人,而且做得很成功。 原因主要是"人脉",Anthropic 创始团队里有两三位技术领袖是物理背景,他们招的人也带物理背景。但在我之后,他们基本就不再招没有 AI 背景的人了。这也是时代的产物。

16 AI 不是黑箱,Scaling Law 是科学规律

主持人:很多人说 AI 是黑箱,你怎么从科学视角理解它?

姚顺雨:这世界上一切都是黑箱。连物理这种大家觉得好理解的事,从微观行为一路演化到宏观理解,本质上也是黑箱,量子力学、量子场论描述的都是可被标记的行为,但系统最微观的动力学,你还是不知道。

AI 也是一样。我们确实不理解语言模型,我们到不了"这个行为是由哪个神经元激活导致"的神经外科级别理解(除非像 Anthropic 的 Interpretability 团队,在非常稀疏的小网络里做一些工作)。但这不意味着我们完全不理解。 Scaling Law 就是一条描述尺度规律的法则:模型大小、数据量上去,perplexity 这个指标就变好。

你要是说我们一点都不理解 Scaling Law,那是不是也得说我们一点都不理解这个世界?这个世界也是个完全的黑箱?

主持人:Scaling Law 是科学规律还是经验规律?

姚顺雨:经验规律和科学规律的边界其实很模糊。回头看热力学的各种定律,第一定律、第二定律、克拉佩龙方程,被发现那年都是经验规律。只是随着时间推移,我们逐渐理解了它的微观机制,它就成了科学定律。

Scaling Law 现在是经验规律,但随着技术固定下来、人们越来越理解微观过程,它有可能变成科学定律。

主持人:所谓"智能涌现"是科学现象吗?

姚顺雨:这个说法本身就不太科学,所以没法科学地解释。对我来说,"智能涌现"更多是一种主观感受,而不是客观现象。

很多人说"智能涌现",是想说以前的语言模型只能做单一方向的事(翻译、分析),现在好像什么都能做。但我觉得这更多是技术涌现,而不是行为涌现,是我们研究出了"如何进行大规模训练,从而在所有能力上横向提升"。这才是更根本的事。

主持人:你说过"AI 本质上简单",怎么理解?

姚顺雨 :这是我的一个说法,可能对也可能错。我的意思是:AI 的"简单"在于,它不像物理那样被"可标记的实验数据"束缚,物理你不懂可标记的理论,就寸步难行;但 AI 不然,你不理解也能往前走。现在我能想到的任何实验,只要花点时间加算力、准备基础设施,都能做,没有根本性的困难。

所以我说 AI 撞墙的感觉很渺小,首先你能试的东西太多了,其次现在不是大家没想法,而是想法太多,得一个个试。

17 AI 自己做实验:6-12 个月内会发生

主持人:AI 会自己做实验吗?

姚顺雨:AI 提升自己、加速自己的发展,这件事其实已经发生了,就像我们开头讨论的,它已经在帮我们做实验、加速我们的尝试。

接下来的 6 到 12 个月 ,会发生一件它还做不到的事:它能不能从头到尾完成一个完整的 AI 研究项目。 不只是写代码,还能跑实验、看结果、分析结果、知道哪里做错了、提出新假设、设计新代码、跑新实验,这一整条链路目前还不完整,但接下来会逐渐补全。

主持人:你在 Gemini 主要做什么?

姚顺雨 :两件事,ML Coding 和 Long Horizon(长周期任务)。

ML Coding 就是让 AI 完成训练自己这一整套流程,有很多实际细节要解决(数据选择、反馈信号选择、新的基础设施挑战)。

Long Horizon 是那个口号,"用有限上下文训练,但当成无限上下文来用"。 人的上下文其实也很短(你问我昨晚吃了什么,我完全记不起来,因为它对当前不重要,所以我选择遗忘),但人能选择性地遗忘、再选择性地检索相关信息。我希望模型也能这样。

这两个方向其实是互补的:一个在横向上扩展场景(agentic coding 横向能长出各种用法),一个在纵向上把任务时间拉长(做完整的 AI 研究比代码补全长得多)。 合起来是一个 T 字形。

主持人:Long Horizon 有解吗?

姚顺雨:从 Pre-training 角度有方案(比如 sparse attention,DeepSeek 和学术界都有工作);从 Post-training 角度也有方案(比如 Cursor 那种强大的上下文管理,让模型自己判断哪段不重要扔掉、重要的存进文件回头再取)。我个人的时间会更多花在 Post-training 路线,因为它更符合我"用短训练长"的理念。Pre-training 方案本质上还是需要长上下文数据来训练。

18 大模型领域没有秘密,但每家都有自己的小算盘

主持人:你们最近发布的 Gemini 3 Deep Think、Gemini 3.1 Pro,你参与了,你做了什么?

姚顺雨 :只能说有幸参与。还是那句话,全是集体工作。 每次看到媒体把我单独拎出来写,我都不知道第二天去办公室怎么面对同事。任何我参与的项目,没有我一样会发生,效果差不多,甚至可能更好。

主持人:最近模型发得有点麻木了,国内外一堆,能划重点吗?

姚顺雨 :老实说,没什么特别值得划的。现在这个时代,已经没那么重要了。 大家还在每个 benchmark 上争第一,证明自己模型基本功强,但这事其实已经到了头,公开的 benchmark 基本都被刷满了。

SWE-bench 大家轻松到 80% 以上,幸好没人超过 83(OpenAI 最近发了一个超过 83 的,但有些题本身定义就有问题)。以前推理比 AIME,再比 IMO;IMO 比完比什么?现在变成 FrontierMath(原话里说的 RKGI),Gemini 3 之前大家以为 10 分就到顶了,"难于上青天";Gemini 3 直接干到 30 多分,Claude 4.5/4.6 干到 60 多,Gemini 3 Deep Think 跳到 80 多,这个也快满了。

靠公开 benchmark 证明模型能力,已经没什么意义了。 大家发得快,反而说明大家都掌握了 know-how,已经没秘密了。

主持人:下一个范式转移会是什么?

姚顺雨:ML Coding 和 Long Horizon 我觉得不算范式转移,但对 Google 极有价值,Google 本身就是最大的 AI 研究平台(从硬件到模型一整套),如果能加速这一整套,对公司价值巨大。

范式级别的,我觉得还在那些更不确定的方向上,多模态生成、世界模型。多模态生成可能会出一个英雄,或一个英雄群体。

19 Neo Labs 大多会死,TPU 和 GPU 各有千秋

主持人:硅谷最近一堆 Neo Labs,你怎么看?

姚顺雨绝大多数 Neo Labs 会死。 可能有一些人确实不错,比如 Thinking Machines 还在交付新东西;但有些 Neo Labs(请消音),我完全不知道他们在做什么,那两位离开这个专业也很久了。

主持人:你怎么看 Google 的 TPU?

姚顺雨 :纯硬件角度很难说谁好谁坏,尤其在大规模商业场景下。GPU 和 TPU 最大的区别(抛开硬件差异)是:GPU 有相对好的开源生态,TPU 没有。 但这在大规模自用时不是问题,Google 自己用 TPU,自然会花时间建基础设施;你只跑 1000 张卡可能是巨大负担,跑几十万张卡的集群,建点基础设施就不算事了。

设计哲学上两者相反:GPU(比如 Hopper 这一代)一个 Pod 里卡不多(比如 8 张),靠 NVLink 互联非常快,Pod 内几乎没有通信瓶颈;TPU 反过来,放弃卡间高速互联,但尽量在一个大机架里塞尽可能多的卡,用 3D Torus 拓扑,每张卡只连三个方向的最近邻居,但整个集群连成一个大环。如果你的编译器或分片逻辑写得足够好,等价上能获得更多存储空间,也减少很多通信 bound。

TPU 的缺点是它比 GPU 结构更固定,易用性和通用性不如 GPU。

20 关于"老邓"和表达方式

主持人:你有 AI 行业的偶像吗?

姚顺雨 :没有。我进这个行业时,个体英雄主义的时代已经结束了,所以没有英雄。 有时候你甚至觉得旧时代的英雄有点蠢。(具体谁就不说了。)

做物理的时候还有,我博士的年轻导师 Douglas Stanford,我觉得他比我聪明得多。看到他我才知道,自己也没那么需要他们。

主持人:谁比较蠢?

姚顺雨 :(笑)这个不谈了。XXX 一直挺蠢的,而且是一致的蠢。 用 Pauli 的话说,他连错都算不上(not even wrong),因为定义不清楚,很难说他说的对还是错。万一哪天真的出现新范式,他可以跳出来说"我当年就说过";但你会发现,换一个范式状态,他也能说同样的话。我最讨厌这种模糊。模糊的话是没有意义的。

主持人:人老了都会变成"老邓"吗?

姚顺雨 :不一定。人老了会进入两种状态:一种是德高望重,不爱指手画脚,愿意花力气培养年轻人;另一种就是"老登",连自己都不懂,还爱指手画脚。 我确实见过不少老邓。随着年龄增长、判断力变强,那些蠢的人会显得更蠢。我对愚蠢有恐惧症。

主持人:你最近说话变得很直接,是为什么?

姚顺雨 :以前挺收敛的,但后来发现收敛对自己不好,对别人也不好。直接表达自己的想法最关键。短期一定会有人讨厌你,但长期大家会感激。 而且这个领域足够客观,只要你观点自洽、有自己的理论,不去侮辱人,人们其实会尊重你。最终你的表现有客观评价标准。

主持人:你崇拜的物理学家?

姚顺雨:物理学史上真正强的不少。100 年前的爱因斯坦、海森堡这些不谈;杨振宁这些也不谈。我做拓扑系统时,Haldane(2016 年诺奖得主)那种人,他有不同寻常的预见力,在自己时代里显得格格不入。几十年前他就能感觉到某件事重要,然后一个人坚持往前推,这非常难。

AI 领域类似的人可能是 Geoffrey Hinton,在所有人觉得这件事可有可无、不确定的时候,他一直坚持这个方向。这可能是英雄级别的人物。之后呢?之后可能有英雄群体,比如 Transformer 的那几位作者(Noam、Ashish、Niki 他们)。

21 给年轻人的几句话,以及一本书

主持人:你大概不会跳到大厂了,未来怎么发展?

姚顺雨 :大概不会。我会继续挑战自己、折磨自己。 得先找到一件值得折磨自己的事。AI 这件事并不难,但从完全不懂细节到逐渐懂细节、懂它是怎么运作的,仍然需要时间和精力。

主持人:你最高的优先级是什么?

姚顺雨:ML Coding 和 Long Horizon,至少把其中一个推进到相对稳定的状态。

主持人:推荐一本书?

姚顺雨 :这是今天最难的问题。你们高估我的文化水平了,我其实不太爱读书。最近在读的是汤川秀树(1949 年诺贝尔物理学奖得主)的自传《旅人》。 能看到一个后来非常成功的科学家,年轻时也有挣扎感,非常真实。

小说的话我喜欢《来自新世界》(日本小说)。如果要推荐轻松读物,可以推荐这个。

主持人:最近看了什么电影、玩了什么游戏?

姚顺雨:什么都没有。

主持人:全世界最喜欢的食物?最喜欢的地方?

姚顺雨:寿司。地点现在选的话可能是夏威夷,因为我喜欢海,但以后去了更多海边地方可能会改。

主持人:最后一个冷知识。

姚顺雨别信老登。


延伸阅读

相关推荐
-XWB-3 小时前
【LLM】Agent Planning 完全指南:8 种纯 LLM 范式 + 8 种混合规划模式详解(二)
人工智能·经验分享·aigc·学习方法·ai编程
爱听歌的周童鞋5 小时前
霹雳吧啦Wz | AIGC | 图像生成篇 | DDPM介绍与公式推导 | 笔记 | (二) 优化目标引入 ELBO/VLB
aigc·diffusion model·ddpm·reverse process·image generate·forward process
赵康6 小时前
AI 写代码之后,Code Review 会议怎么开
ai·llm·skill
莫逸风6 小时前
【AgentScope 2.0】 0. 学习指南
java·llm·agent·agentscope
-XWB-9 小时前
【 LLM】Agent Planning 完全指南:8 种纯 LLM 范式 + 8 种混合规划模式详解(一)
人工智能·aigc·学习方法·ai编程
TheBestRucy10 小时前
RAG知识库问答系统落地:从向量检索到上下文增强的全链路实践
人工智能·python·langchain·aigc·交互
智行合一科技11 小时前
WAIC释放关键信号:合规能力正成为AIGC营销的核心竞争壁垒
aigc
谢白羽12 小时前
vllm源码剖析14-vLLM 分布式推理-专家并行EP
笔记·分布式·llm·论文·vllm
爱听歌的周童鞋13 小时前
霹雳吧啦Wz | AIGC | 图像生成篇 | DDPM介绍与公式推导 | 笔记 | (一) 前向加噪 & 优化目标引入
aigc·diffusion model·ddpm·reverse process·image generate·forward process