机器人的自由意志：约翰·麦卡锡《Free Will---Even for Robots》论文解读
论文原名：Free Will---Even for Robots
作者：John McCarthy（约翰·麦卡锡），斯坦福大学计算机科学系
版本日期：2000 年 2 月 14 日
一句话概括：自由意志不是哲学奢侈品，而是可以被设计进机器人里的工程属性。
一、论文背景与作者简介
约翰·麦卡锡（John McCarthy，1927--2011）是人工智能领域的奠基人之一，长期任教于斯坦福大学计算机科学系（本文即署名为该系）。他是"人工智能（Artificial Intelligence）"这一术语的提出者，也是 Lisp 语言的发明者，以在数学逻辑与常识推理（commonsense reasoning）形式化方面的开创性工作闻名。他与 Patrick Hayes 于 1969 年合著的《Some Philosophical Problems from the Standpoint of Artificial Intelligence》提出了**情境演算（situation calculus）**框架，本文正是对其中"自动机表示与 can 的概念"一节的修订与发展。
本文写作于 2000 年，彼时"深蓝"击败卡斯帕罗夫（1997）刚过去不久，但"通用 AI 助手"仍属远景。麦卡锡写这篇论文的出发点非常"工程师"：他明确说"我们的目标主要是技术性的，即研究自由意志的哪些方面能让机器人更有用，而不是去安慰那些觉得决定论令人痛苦的人"。论文由 DARPA 高性能知识库（HPKB）项目与 AFOSR New World Vistas 计划资助，致谢了 Eyal Amir、Daniel Dennett（丹尼尔·丹尼特）与 Patrick Suppes。
论文开头有一句四岁小女孩 Sarah McCarthy 的话------"I can, but I won't."（我能，但我不做）------作为全文的引子。麦卡锡认为，连年幼的孩子都能在内心表达"我能但我不做"并据此行动，那么自由意志显然不需要一个非常复杂的系统；这也正是他要把自由意志形式化、工程化的底气所在。
二、核心论点
2.1 兼容论立场：自由意志与决定论并不冲突
论文在哲学上采取**兼容论（compatibilism）**立场：即使一个系统（人也好、程序也好）是完全确定性的------即完全被规定、不含任何随机元素------它依然可以拥有自由意志。
论证逻辑如下：
- 哲学家们争论的核心问题是：人在上述意义上是不是确定性的？
- 如果是，那么要么承认人没有自由意志，要么承认自由意志与决定论相容。
- 兼容论者（如丹尼特）选择后者：只要一个人的行动是由他内部的决策过程决定的，哪怕这些过程本身是确定性的，他也有自由意志。
麦卡锡的立场更"省事"：他不需要对决定论本身站队------他只需要接受兼容论，因为 AI 本身就依赖于兼容论。如果 AI 系统最终是确定性的程序，而我们认为它有"能力"、有"意图"、有"选择"，那么我们已经默认了"确定性系统可以有自由意志"这件事。既然前提成立，剩下值得研究的就是：具体有哪些自由意志的形式可以被设计出来、对机器人有什么用。
值得注意的是，麦卡锡还举了一个政治性例子：东德没有否认公民通过量子力学或混沌理论可能获得的那种"自由意志"，它否认的恰恰是本文讨论意义上的选择。换句话说，真正的压迫是取消可能性，而不是争论决定论。
2.2 自由意志是程度概念：不是全有或全无
麦卡锡反复强调：自由意志不是"有或没有"的东西，而是有程度、有种类之分的。
- 汽车：一点自由意志都没有------它不会考虑替代方案。
- 国际象棋程序：有最小种类的自由意志------它会生成合法走法列表、逐条评分、选择最高分的走法。程序"考虑了替代方案"，这正是我们愿意赋予它一点点自由意志的原因。
- 人类：有大量自由意志------人类不只比较分数，还会详细比较不同选择的后果；人类还会把自己的"选择集合"本身当作一个对象来审视。
推论：人类级别的 AI（达到或超过人类智能的系统）需要的自由意志远多于今天的国际象棋程序，"很可能几乎和人类拥有的一样多，哪怕只是当有用的仆人"。
麦卡锡还给出了一个颇具远见的工程论断：一个能下得像深蓝一样好、但计算量只有深蓝的百万分之一（10⁻⁶）的程序，必然需要更精细的选择结构，也就是更多的自由意志。换言之：算力可以换结构，但结构（选择能力）本身是智能的关键组件。
2.3 两个层面：外部层面与内省层面
麦卡锡认为自由意志（无论对人还是对程序）都有两个层面：
外部层面（external aspect） ：一个 agent P 在情境 s 中能实现的结果集合，记为 Poss(P, s) = {x | Can(P, x, s)}。这是"我实际上有哪些可能性"。
内省层面（introspective aspect） ：agent P 关于 Poss(P, s) 的知识，即它知道自己能实现什么。"这里正是人类自由意志感觉的所在"------它依赖于 P 具有一种内部结构，使得其当前状态的某些方面可以被解释为表达知识。
麦卡锡强调，在最重要的情形下，Poss(P, s) 只取决于 P 在世界中的因果位置，而不取决于 P 的内部结构（详细论证见后文自动机模型）。但内省层面就不一样了------知道"我能做什么"需要额外的内部结构。
一个关键例子：今天的国际象棋程序拥有很大的 Poss(P, s)（能算出很多走法），但它们"把可能性当作一个集合来认识"的能力非常有限------而这是最优功能所必需的。麦卡锡设想：一个机器人如果判断出"在当前情境下我的可能性集合太有限了"，它可以着手去改变自己，确保未来在类似情境下拥有更多选择。这就是内省自由意志的实用价值：自我审视 → 自我扩展。
2.4 有选择 ≠ 对选择有意识
这是全文最核心的区分之一："拥有选择"和"对这些选择有意识"是两件不同的事，两者都很重要，即使对机器人也是如此。
- 有选择：系统在客观上有多种可达结果（外部层面）。
- 对选择有意识：系统内部能表示"我有这些选择"并据此推理（内省层面）。
麦卡锡特别指出：对自由意志的意识并不是"服务于其他功能的结构之附带现象"（epiphenomenon）------它不是大脑或程序在实现别的功能时顺带产生的无用副产品，而是有独立功能价值的：它让 agent 能够评价、比较、规划并主动扩充自己的选择空间。
这一点对当代 AI 有直接的呼应：大语言模型或强化学习智能体客观上"能"产生海量输出（外部可能性极大），但它们在"知道自己有哪些可能、为什么选这个而不选那个、以及如何让未来有更多选择"这一内省维度上，依然极其薄弱。
2.5 技术动机：机器人为什么需要"同类"自由意志
麦卡锡的论证链条非常务实：
- 人类自由意志是进化的产物，它"促成了人类这种动物的成功"。
- 有用的机器人要胜任与人类类似的复杂任务（做仆人、做助手），就必须具备类似的决策与选择结构。
- 因此，"我们将不得不把自由意志设计进机器人"------这是一个工程任务，而不是哲学思辨。
他并不否认自由意志的哲学难题，但选择绕开：不讨论基于"是否自由行动"来归因责任/奖惩的方面；也不讨论量子力学或混沌是否带来"真正的自由"（他认为这与自由意志无关------见论文注释 2："我同意那些说这没有区别的人"）。他关心的是：什么样的选择结构，能让机器人更有效？
三、文中关键概念的通俗解释
3.1 Poss(P, s)：我能做什么的"可能性集合"
记法：Poss(P, s) = {x | Can(P, x, s)}，意思是"agent P 在情境 s 下能做到的所有事情 x 的集合"。
通俗理解：把它想象成"此时此刻，摆在我桌上的全部选项"。麦卡锡提醒我们注意两件事：
- x 往往不是一个简单动作 。在有趣的情形里，"我能去澳大利亚""我能赚一百万美元""我能买套新房子"------这里的 x 是要达到的结果状态（他称之为 fluent，即对状态的描述），而不是抬腿走路的分解动作。
- 这个集合主要由"位置"决定，不由"内心"决定。你能不能摸到天花板，取决于你的身高和天花板高度（你在世界中的因果位置），而不是你多想要。
国际象棋的例子最能说明问题：在一个特定盘面上，程序"能"将死对手，也"能"走入一个被对手将死的局面------两个结果都在它的 Poss 里，关键在于它如何选择。
3.2 "can" 的不同含义：一个自动机寓言
麦卡锡用有限自动机系统来把"can"讲清楚。设想世界由若干相互作用的子自动机组成（每个方框是子自动机，每条线是信号），整个系统完全确定性：给定初始状态和输入序列，未来一切都被方程唯一决定。
核心定义 ：子自动机 p "能"实现条件 π（记 can(p, π, s)），当且仅当------把从 p 伸出的信号线全部剪断、替换成外部输入线之后------存在某个 p 的输出序列，能让整个系统最终进入满足 π 的状态。
关键在于这句："在确定 p 能实现什么时，我们只考虑它的行为序列的效果，完全不考虑决定它实际上会做什么的条件。"也就是说：can 回答的是"有没有一条路"，而不是"它会走哪条路"。
论文给了一个三自动机的小例子：
- 子自动机 2 永远不会处于状态 1（它的状态只增不减）；
- 子自动机 1 能把 子自动机 2 置于状态 1，但不会------如果它发出不同的信号，2 就会进入状态 1，但按实际规则它不会这么做；
- 子自动机 3 不能让子自动机 2 处于状态 1。
这正是开头"我能，但我不做"的形式化雏形：能力（can）与行为（will do）被干净地切开。
麦卡锡还区分了两种更强的 can（当系统有外部输入时）：
- cana：无论外部输入是什么，p 都存在一个输出序列能达成目标------"靠我自己就能搞定"；
- canb：p 能根据输入调整输出以达成目标------"给我任何输入我都能应对"。
两者的共同点是：can 最终是"位置"的函数，而不是"个体"的函数------把 p 换成任何装在那个位置上的自动机，结论不变。这与他"外部层面取决于因果位置而非内部结构"的主张一脉相承。
"意志器官"与层层剪断的 can：为了贴近直觉，麦卡锡提出可以想象人由多个子自动机组成，然后"逐层剪线"：
- 在关节处剪断：他"能"跳过一栋楼、以全速跑一小时------只要关节运动序列对，物理上能达到；
- 在肌肉输入端剪断：他不能再"跳过楼"（肌肉极限被算进去了），但"能骑独轮车"（适当的神经信号即可实现）；
- 在"意志器官"（一个假想的、做决定并把决定传给大脑执行部分的组件）处剪断：他"不能"拨打总统的秘密私人电话------因为他不知道那个号码。注意：在更外层剪断时，"能不能拨那个号码"的答案是"能"！
结论是：不存在一个唯一正确的 can 概念 。不同的剪断位置对应不同的约束层级，每个概念在各自语境里都有用，有时一句话里同时用了两个层级的 can。极端到"一个人只能做他实际做的事"的那个概念反而是多余的。这个"逐层剪线"的模型，本质上就是在说：能力判断取决于你在哪一层抽象上回答问题------这对今天讨论 AI 系统的"能力边界"仍然极具启发性。
3.3 内省结构：从有限自动机到情境演算
自动机模型擅长刻画"外部自由意志"（客观可能性），但不擅长表示"我知道我能做什么"。原因在于：agent 的知识无法方便地编码为子自动机的状态。麦卡锡列举了自动机表示的四个困难：
- 状态爆炸：表示一个人的知识可能需要 2¹⁰¹⁰ 量级的状态；
- 几何信息难表示：多关节物体的位置、黏土块的形状；
- 固定连线不充分：人可能拿起房间里的任何物体，理论上要跟每个物体连线；
- 最严重的是认识论上的不充分：我们从来不足以了解一个人到能列出他全部内部状态的程度。
所以内省层面的形式化要换工具------情境演算（situation calculus） 。在情境演算里，动作产生新情境：Result(a, s) 表示在情境 s 中执行动作 a 后到达的情境。麦卡锡给出了"我能，但我不做"的最小形式化：
- 如果动作 a 在情境 s 中可能，那么
Result(a, s)这个情境就是可达的：Possible(a, s) → Can(Result(a, s), s)； - 如果某个可达情境比其他所有可达情境都好 ，那么这个动作"应该"做：
Can(...) ∧ (∀s')(Can(s', s) → s' <good Result(a, s)) → Should(a, s)； - 如果动作 a′ 会导向不如动作 a 的情境，那么 agent 不会 做 a′：
... → ¬WillDo(a′, s)。
麦卡锡还俏皮地指出：这套逻辑没有区分 "but" 和 "and"------作为真值函数两者等价，但说"我能，但 我不做"和说"我能，且 我不做"是两种不同的言语行为（前者带情绪张力）。这不影响逻辑形式化，但他特意点出这个语言学细节。
3.4 因果关系与反事实
自动机表示还顺带厘清了两个相关概念：
- 因果 ：子自动机 p 在状态 s 中引起了条件 π，当且仅当"改变 p 的输出会阻止 π 发生"。相互作用的自动机系统，本质上是常识因果观的形式化。
- 反事实 ：如"如果你刚才超车时对面山后开来另一辆车，就会正面相撞"------这类句子可以放进自动机框架分析。麦卡锡引用他与 Costello 的工作指出，有用的反事实有一个实用功能：让人（或机器人）从"差点发生、幸好没发生"的经历中学习，而不必真的付出血的代价。
此外，论文 3.3 节还有一个关于"好的分解"的深刻论证：一个自动机系统可以用多种方式分解成子自动机（比如两个火星人观察房间，一个按"人"分解，另一个把所有头归一组、所有身体归一组）。麦卡锡借用类似 Shannon 信息论的计数论证表明：能给出"信号数远小于状态数"的简洁分解的系统，极不可能存在第二个不等价的同样好的分解 。因此，我们习惯上把世界分解为"独立的人和物"，具有独特的、客观的、通常更优先的地位------随之而来，基于这种分解的 can、因果与反事实概念也有优先地位。简言之：好的抽象不是任意的，客观世界的结构会挑选出好的分解。
四、对当代 AI 的启示
这篇写于 2000 年的论文，在 2020 年代的 AI 语境下读起来依然锋利，甚至更有现实意义。
1. 能力与内省是两套系统。 今天的模型在"外部层面"拥有惊人的 Poss：一个 LLM 客观上"能"生成无数文本，一个围棋程序客观上"能"走出无数变化。但在"内省层面"，它们几乎不知道自己拥有什么可能性、为什么选择了这个、以及如何扩充未来的选择集。麦卡锡在 2000 年就说这是"限制最优功能"的短板------如今这仍是 agent 类系统（tool-use、planning、self-correction）最核心的短板之一。他设想机器人"认识到自己选择太少并主动改变"的能力，正是今天"自主规划 + 自我提升"研究的雏形。
2. "有选择"不等于"有自由意志"。 在评估 AI 系统时，我们经常混淆"系统能输出什么"和"系统知道自己能输出什么"。麦卡锡的区分提供了一个清晰的分析框架：判断一个智能体是否需要更多"自由意志"，要看它是否需要在多个后果之间做细致比较 、是否需要把选择集合当作对象 来推理（比如"哪个位置更灵活"这类二阶评价）、是否需要反事实学习。
3. 决定论不构成反对理由。 对 AI 安全与治理讨论尤其重要：如果一个系统是确定性的，这并不自动意味着它没有"选择"、没有"责任"意义上的行为主体性。麦卡锡的兼容论提醒我们，重要的不是系统是否包含随机性，而是它的行为是否由其内部决策结构产生。这也间接呼应了今天关于"AI 对齐"的讨论：我们真正关心的，是系统内部决策过程的质量与可解释性，而非哲学上的决定论之辩。
4. "逐层剪断"是分析 AI 能力边界的好工具。 麦卡锡的"意志器官"思想实验------在不同抽象层级上问"它能吗"------对评估 AI 系统同样适用：在权重层、在推理层、在知识层、在意图层，同一个系统"能做什么"的答案完全不同。安全评估者如果不指明"在哪一层问 can"，很容易得出互相矛盾的结论。
5. 认知复杂性与计算效率。 "用深蓝百万分之一的计算量达到同样棋力，就需要更精细的选择结构"------这是对"系统 2 思维"式推理成本的一个早期直觉：结构化的选择与内省，是节省算力的杠杆，而不是浪费。
6. 对"自由意志意识"的正面辩护。 麦卡锡明确反驳"意识只是附带现象"的观点：对选择的意识本身有功能价值（比较、规划、扩展可能性）。这对当前关于"AI 是否只是随机鹦鹉/随机骰子"的争论是一个重要的理论资源：一个系统可以完全确定性地运作，同时其"对自己可能性的表征"依然是有功能的、可设计的、值得构建的。
五、结语
麦卡锡在结论中给出四条精炼判断：
- 人类级 AI 需要 agent 具备推理自己过去、现在、未来及假设性选择的能力；
- 一个 agent 能做什么，由环境（因果位置）决定，而非由其内部结构决定；
- "拥有选择"与"知道自己拥有选择"是有用且必须区分的两种能力；
- 人能做什么、知道自己能做什么，与机器人能做什么、知道自己能做什么，在结构上是相似的。
最后他写道："AI 需要一套更发达的关于自由意志的形式理论------即机器人可以拥有的选择结构，以及它能有用知道的关于这些结构的知识。"
这篇论文的可贵之处在于，它把自由意志从一个"要么有、要么没有"的哲学难题，转变为一个"有多少、什么种类、如何设计"的工程问题。麦卡锡没有承诺机器人会像人一样"体验"自由，他承诺的是：可设计、可形式化、可验证的选择结构，本身就是智能与自主性的组成部分。对于今天做 AI 系统设计、安全与治理的人来说，这是一份值得反复阅读的"工程自由意志"蓝图。
本文基于论文原文《Free Will---Even for Robots》（John McCarthy, Stanford University, 2000-02-14 版）整理撰写，所有论点、公式与示例均忠实于原文；参考文献列表、致谢与网址注释因篇幅未逐条展开。