唐杰谈 Scaling Law：下一轮 AI 竞赛，不再只是堆参数

如果你最近在做 Coding Agent，可能遇到过一种反直觉现象：底层模型没有更换，参数量也没有增加，但只要重新设计工具、执行环境、反馈机制和后训练流程，任务完成率就可能继续上升。

GLM-5.3 提供了一个值得分析的案例。

2026 年 8 月 19 日，清华大学教授、智谱首席科学家唐杰表示，GLM-5.3 与 GLM-5.2 使用相同的基础模型、架构、总参数和激活参数，主要通过扩大长周期环境与强化学习，在约一个月内取得提升。Z.ai 官方也将 GLM-5.3 在 coding 与 agent 方面的进步归因于对 743B 基础模型的 post-training。

这并不意味着参数不再重要，也不能据此宣布传统 Scaling Law 失效。它真正提示的是：

Scaling 的对象正在从单一的模型规模，扩展为模型、数据、推理计算、可执行环境、长周期轨迹和验证反馈组成的完整系统。

本文重点讨论三个问题：Scaling Law 的含义发生了什么变化，GLM-5.3 为什么能在底座不变的情况下提升，以及这对 Harness、Agent Runtime 和长周期 Agent 意味着什么。

1. Scaling Law 从来不等于"参数越多越好"

Scaling Law 经常被压缩成一句传播口号：模型越大，能力越强。但从研究脉络看，它讨论的始终是多个资源变量与性能之间的关系。

2020 年，Kaplan 等人的研究展示了语言模型损失与模型规模、数据规模、训练计算量之间相对稳定的幂律关系。它的重要意义是让模型性能随资源扩大的趋势变得更可预测，而不是证明只增加参数就一定最优。

2022 年的 Chinchilla 论文进一步指出：在固定计算预算下，当时许多大模型参数偏多、训练 token 偏少。更好的资源配置方式，是让参数量与训练数据量更合理地共同增长。

因此，从 Kaplan 到 Chinchilla，行业已经经历过一次认知修正：从"把模型做大"，转向"在模型、数据与计算之间寻找更有效的配置"。今天的变化，是这个优化问题继续向推理和行动阶段延伸。

2. 四个 Scaling 阶段，扩大的资源并不相同

把大模型近几年的演进压缩为四个阶段，可以更清楚地看到竞争重心如何移动。

阶段	主要扩展对象	典型目标	主要瓶颈
模型 Scaling	参数、宽度、深度、训练计算	提高基础容量与能力上限	芯片、能耗、训练稳定性
数据 Scaling	token 数、数据质量、配比、课程	更充分地训练参数	高质量数据、去重与污染
推理 Scaling	推理 token、搜索、采样、验证	用更多测试时计算解决难题	延迟、成本、搜索与验证策略
Agent/Post-training Scaling	环境、任务、轨迹、反馈、强化学习	把能力组织成可完成的长任务	环境吞吐、奖励可信度、信用分配

前两个阶段主要发生在预训练期间。第三个阶段把更多计算放到模型回答问题时：模型可以分解任务、生成候选方案、调用工具并检查结果。

但更多推理 token 不会自动变成更高质量。如果模型缺乏有效策略，或者没有可靠验证器，额外计算也可能只是把错误过程拉得更长。

第四个阶段则进一步改变了训练样本的形态。训练对象不再只是输入与输出之间的一次映射，而是一条完整的行动轨迹：

flowchart LR A[接收任务] --> B[观察环境] B --> C[规划与调用工具] C --> D[执行并获得反馈] D --> E{结果可验证?} E -- 未完成 --> F[修正策略] F --> B E -- 完成 --> G[记录轨迹与奖励] G --> H[用于评测或后训练]

在这个阶段，Scaling 的基本单位不再只有 token，还包括 task、trajectory、environment 和 verified outcome。

3. GLM-5.3 为什么"不扩参数也能提升"

GLM-5.3 的关键对照条件是：按照唐杰的表述，它与 GLM-5.2 使用相同的基础模型、架构、总参数和激活参数。主要变化来自长周期环境与强化学习规模的扩大。

这说明基础模型所拥有的能力，与它在复杂任务中能够稳定兑现的能力，并不是同一件事。

一个模型可能掌握编程语法、软件库和常见算法，却仍然无法可靠完成真实仓库任务。例如，它可能：

没读完约束就开始修改代码；
在多轮工具调用后遗忘早期信息；
遇到测试失败时反复采用同一路线；
局部修改正确，却破坏其他模块；
看到表面测试通过便过早结束任务。

这些失败未必源于"模型不知道"，也可能源于它不会在长时间跨度内组织已有能力。

长周期后训练优化的就是这部分能力：什么时候探索，如何拆解任务，工具失败后怎样恢复，哪些中间状态需要保留，以及怎样把一系列局部正确动作连接成最终可交付结果。

从 next-token prediction 到 outcome optimization

预训练的直接目标主要是预测下一个 token。Agent 任务关心的则是最终结果：代码能否编译、测试是否通过、漏洞是否修复、操作是否越权、任务是否在预算内完成。

二者不是互相替代的关系。更准确的分工是：

预训练提供知识、表示与基础推理能力；
后训练塑造模型使用这些能力的策略；
环境让动作产生真实后果；
验证器把结果转换为反馈信号；
强化学习利用反馈改进行为分布。

所以，GLM-5.3 的意义不是证明模型规模无用，而是展示了同一套参数仍然存在较大的"能力兑现空间"。

总参数与激活参数不能简单画等号

唐杰还提供了一种工程理解：总参数更接近知识容量，激活参数或有效深度更接近推理能力。这个说法有助于理解 MoE 模型，因为 MoE 拥有大量总参数，但每个 token 通常只激活其中一部分专家。

不过，这更适合作为工程近似，而不是公认理论定律。知识与推理不会整齐地分别存放在两组参数中，架构、专家路由、训练数据、目标函数和推理策略都会影响表现。

4. 下一轮门槛：从"模型工厂"扩展到"环境工厂"

预训练时代，模型公司的核心资产通常可以概括为芯片、数据、参数和训练框架。进入 Agent 后训练阶段，另一组基础设施正在变得同样重要：持续生产任务与执行反馈的"环境工厂"。

一套可用于规模化训练的 Agent 环境，至少要解决以下问题：

任务生产：任务是否覆盖真实难度分布，而不是只适合刷榜？
环境隔离：执行空间能否重置，状态是否可复现，权限是否受控？
工具接入：终端、代码仓库、浏览器、数据库等工具能否稳定调用？
过程观测：关键动作、工具返回和状态变化能否被完整记录？
结果验证：系统能否识别真正完成、部分完成与投机取巧？
轨迹回放：失败发生在哪一步，能否被归因并转化为训练数据？

这比收集问答数据更困难。环境具有状态，工具会失败，奖励往往延迟到任务末尾，早期的一个错误决定可能影响几十步之后的结果。规模扩大后，还会遇到环境吞吐、稀疏奖励、信用分配和训练稳定性问题。

因此，未来的竞争不只是谁拥有更大的预训练集群，也包括谁能更低成本地生成高质量任务、更安全地执行动作、更准确地验证结果，并把这些反馈持续送回训练系统。

5. Harness 与 Agent Runtime 为什么不再只是"胶水层"

在单轮聊天中，模型外围的工程组件很容易被看成封装层。但在长周期任务中，外围系统会直接影响模型能看到什么、能做什么，以及它收到的奖励是否可信。

可以把二者简单区分为：

Harness：把模型接入具体任务，为它配置上下文、工具、权限、规则和反馈接口。
Agent Runtime：维持执行过程，管理状态、调度工具、处理超时与重试、保存轨迹，并实施风险控制。

考虑一个 coding agent：它最终通过了测试，但读取了不该访问的文件，或者依赖环境中偶然存在的缓存。若验证器只检查"测试是否为绿色"，系统就可能为违规或不可复现的路径提供正奖励。

反过来，如果 Runtime 不稳定，同一个动作有时成功、有时失败，模型获得的训练信号也会充满噪声。

因此，可验证环境不只是增加一个测试脚本。它至少需要满足：

初始状态明确且可复现；
权限边界可声明、可执行、可审计；
工具调用和状态变化可观察；
成功标准能抵抗常见的 reward hacking；
失败轨迹可以回放和定位；
运行成本、步数和时间能够计量。

模型能力越向长周期任务延伸，Runtime 就越会参与能力的形成，而不只是承载能力。

6. 这与 RSI 有什么关系

RSI（Recursive Self-Improvement，递归式自我改进）经常被想象成模型直接修改自身，然后迅速进入能力爆炸。现实中更可能先出现的，是一个工程化闭环：

Agent 在真实或高保真环境中执行任务；
Runtime 记录动作、状态与结果；
Evaluator 生成可验证反馈；
训练系统筛选成功与失败轨迹；
模型、策略或 Harness 被更新；
新版本进入更难、更长的任务继续验证。

GLM-5.3 所代表的环境 Scaling，与这个闭环共享长周期轨迹、可验证反馈和强化学习等基础设施。

但这不等于 RSI 已经实现。从人工设计任务和奖励的后训练系统，到能够自主、持续、可靠地改进自身的系统，中间仍隔着任务生成质量、奖励可信度、安全边界、训练成本和能力退化控制等难题。

更稳妥的判断是：环境 Scaling 正在补齐递归改进所需的一部分工程条件，而不是证明递归式自我改进已经到来。

7. 给 Agent 工程团队的检查清单

如果你的团队正在尝试通过后训练或运行时优化提升 Agent，可以先检查下面几项，而不是只比较底层模型参数：

是否定义了可自动判断的任务完成标准？
环境能否隔离、重置并复现实验？
是否同时记录动作、工具结果、状态变化和成本？
验证器能否发现越权、绕过测试和缓存依赖？
长任务失败后，能否定位关键错误步骤？
训练与线上运行是否使用足够一致的工具语义？
是否分别评估最终成功率、步骤效率、恢复能力与安全性？
新策略提升某类任务后，是否检查其他能力是否退化？

这张清单背后的核心是：Agent 能力不是一个只由模型权重决定的静态属性，而是模型与运行环境共同产生的系统行为。

8. 结论：参数竞赛没有结束，但不再独占舞台

把 GLM-5.3 解读成"以后不需要更大的模型"，是过度推断。基础模型容量、架构和预训练质量仍然决定重要的能力边界，更强的后训练也无法无限弥补底座不足。

真正发生的变化是，参数已经不能独自解释能力进步。下一轮 Scaling 更像一个联合优化问题：

预训练决定模型拥有哪些基础能力；
数据工程决定能力覆盖的分布；
推理计算决定单次任务可使用多少搜索与验证；
后训练决定模型如何组织和调用能力；
Harness 与 Runtime 决定行动边界和反馈质量；
长周期强化学习决定局部动作能否连接成最终结果。

未来更稀缺的，可能不是某一个更大的参数数字，而是把模型、环境、反馈和工程系统连接成可靠闭环的能力。

Scaling 没有停止。它只是从扩大一个模型，走向扩大一整套学习与行动系统。

事实边界与不确定性

GLM-5.3 与 GLM-5.2 使用相同基础模型、架构、总参数和激活参数，以及"约一个月"的表述，来自唐杰本人原帖。
Z.ai 公布的 coding、agent 和网络安全能力提升属于官方声明。其中网络安全能力与漏洞发现结果并非独立第三方验证。
GLM-5.3 API 已于 2026 年 8 月 19 日上线；开放权重采用分阶段发布，因此目前不宜写成"已经完全开源"。开放模型、开放权重与开放完整训练过程也不是同一概念。
"总参数更接近知识容量、激活参数或有效深度更接近推理能力"应被视为一种工程理解或近似，而不是公认理论定律。
单一模型案例不足以证明一条普遍的新 Scaling Law。它更适合作为方向性证据：基础模型不变时，环境与强化学习仍可能释放增量。

主要参考资料

唐杰：关于 GLM-5.3 与 Scaling Law 的原帖
Z.ai：GLM-5.3 官方发布
Z.ai：GLM-5.3 API 上线信息
Kaplan et al.：Scaling Laws for Neural Language Models
Hoffmann et al.：Training Compute-Optimal Large Language Models
Axios：GLM-5.3 开放权重分阶段发布与安全评测报道