以不变应万变
蒸汽机的出现不仅开启了工业革命，也推动了现代物理学的发展。十九世纪的科学家逐渐意识到，蒸汽机虽然结构各异、运行状态千差万别，但其行为并非任意，而是受到某些更深层规律的约束。热量可以转化为功，功也可以重新转化为热量，但系统中的总能量始终保持不变。随后，人们又发现了动量守恒、电荷守恒等一系列规律。物理学真正的成功，不仅在于建立了大量方程，更在于找到了这些隐藏在现象背后的不变量。系统状态可以不断变化，但变化只能发生在这些不变量所允许的范围之内。
相比之下，大语言模型并不存在类似的天然约束。模型本质上是一个条件概率分布，其运行机制是根据上下文预测下一个最可能出现的词元。它所遵循的是训练数据中的统计规律，而非物理世界中的守恒律。模型内部不存在能够强制自身与外部世界保持一致的固定量，也不存在保证逻辑正确或事实真实的内在机制。从这个意义上说，幻觉并不是模型的缺陷，而是模型的自然状态。一个语言生成器天然擅长生成符合统计规律的文本，却没有理由天然成为一个事实机器。
这也是为什么测试集无法从根本上解决模型可靠性问题。测试集能够衡量模型在特定样本上的表现，却无法为未来所有场景提供严格保证。无论测试集规模如何扩大，其作用都只是提高覆盖率，而不是建立确定性。训练过程能够不断降低模型出错的概率，却无法将风险降为零。对于一个本质上依赖统计规律运行的系统而言，这种不确定性几乎是不可避免的。
观察大模型在不同领域中的实际应用，可以发现一个高度一致的模式。在数学领域，模型负责生成证明，而证明器负责验证证明是否成立；在编程领域，模型编写代码，而编译器和测试系统负责检查代码是否正确；在医疗领域，模型提供诊断建议，而医生承担最终判断责任；在企业 Agent 场景中，模型提出方案，而工作流、审批机制和执行反馈共同决定方案是否能够落地。真正成功的系统从来不是单独的大模型，而是大模型与约束系统的结合。模型提供生成能力，约束系统提供验证能力，两者共同构成可用的解决方案。
因此，与其不断追求一个无所不能且永不犯错的大模型，不如将视角转向另一个问题：如果模型本身不存在守恒量，那么能否在系统层面构造某种不变量？
守恒量可以被看作是不变量的一种特殊形式。守恒量要求某个量始终保持不变，而不变量则要求系统在不断演化的过程中保持某种核心结构不被破坏。从这个角度出发，人类社会中大量复杂系统实际上都建立在不同层次的不变量之上。
最底层是不依赖于人类意志而存在的自然不变量。能量守恒、动量守恒、电荷守恒等规律都属于这一层。它们构成了物理世界的边界，也构成了所有工程系统最终必须服从的约束。无论技术如何发展，人类都无法绕开这些规律，只能在其允许的范围内进行创造。
在自然不变量之上，是形式不变量。这一层对应数学、逻辑和计算系统。数学证明必须保持逻辑一致性，程序必须满足类型约束，数据库必须维持一致性条件。这些规则未必直接来自自然界，但一旦被形式系统所接受，就必须在系统内部保持自洽。形式不变量构成了现代软件与信息系统可靠性的基础。
再向上则是组织不变量。企业、政府以及未来的 Agent 系统都依赖这一层维持自身身份。权限必须沿着明确的授权链传递，状态必须按照状态机规定的路径迁移，责任必须能够追溯到具体主体，资金必须具有清晰的来源和去向。这些要素并不一定严格守恒，但它们必须始终保持可追溯性。一家银行如果失去了资金流向的可追溯能力，就不再是一家真正意义上的银行；一个组织如果失去了责任链，也就失去了有效运转的基础。
最上层则是社会不变量。这一层最难形式化，却往往决定系统能否长期存在。信任、合法性、契约、公平等概念都属于这一范畴。它们不像物理规律那样能够写成方程，也不像逻辑规则那样能够被严格证明，但它们深刻影响着社会系统的稳定性。历史上许多制度并非首先在物质层面崩溃，而是在合法性与信任结构瓦解之后逐渐失去生命力。一个国家即使保留完整的行政体系和军事力量，如果失去了社会认可，其稳定性仍然会不断下降；一个平台即使拥有先进技术，如果失去了用户信任，也难以长期维持。
从这四层结构重新审视人工智能，可以发现大模型本身实际上并不属于任何一层不变量。它更像一种生成器，负责在巨大的可能性空间中产生候选方案。而真正约束这些方案的，是外部系统中的各种不变量。未来 Agent 的核心架构很可能不是单纯追求更强的模型，而是构建"生成器加不变量系统"的组合。模型负责探索可能性，不变量负责维持系统身份；模型负责提出方案，不变量负责判断哪些方案能够被接受。
在这个框架下，训练与工程的分工也变得更加清晰。训练的作用是提高正确率，降低风险发生的概率；工程的作用则是建立边界，确保系统即使出现错误，也无法突破关键约束。前者影响风险的期望值，后者决定风险的上限。对于一个本质上属于弱约束引擎的大模型而言，后者的重要性甚至可能高于前者。
工业革命真正改变世界的，不只是蒸汽机本身，而是人类发现了蒸汽机背后的守恒律。同样，未来人工智能领域最重要的突破，也未必来自某种新的模型架构，而可能来自对智能系统不变量的发现与构造。当大模型被嵌入由自然不变量、形式不变量、组织不变量和社会不变量共同构成的约束体系之中时，它才有可能从一个不可预测的生成器，逐渐成长为一个可信赖的行动者。真正的智能系统，不是没有错误的系统，而是在任何情况下都不会失去自身身份的系统。