导语
做 AI 应用开发的同学可能已经注意到,Anthropic 在 10 月 8 日更新了使用政策,其中新增了一条略显「超前」的条款:禁止用户对模型进行持续、无谓的辱骂或残忍行为,违规者对话会被模型主动终结。这条政策 11 月 12 日生效,本文梳理政策细节、微软的反方立场,以及这件事对普通开发者的实际意义。

一、政策条款本身
就在前两天,Anthropic 官宣了这条新规矩,你骂 Claude 骂得太狠,它可以直接把对话关掉。
这条规矩已经写进使用政策,与「不许开发武器软件」「不许监控类应用」并列。把「不许虐 AI」写进同一份文件,AI 行业这么多年,还是头一回。

政策细节值得注意:
- 触发条件:「极端、反复、毫无理由」的虐待行为。正常表达不满、反驳、要求多轮修改,完全不受影响。
- 处罚方式:不是封号,是 Claude 自己终止当前这段对话,其他对话照常可用。


一句话概括:以前是客服忍你,现在是客服有权挂你电话。
二、微软的反对立场
这件事的看点不在条款本身,而在有巨头公开唱反调。
微软 AI 负责人苏莱曼上月发布长文《关于「模型福利」的警告》,立场非常硬,AI 就是个语言引擎,没有意识,不会痛苦,不该有权利。

他还点名批评了 Anthropic,说你们把「AI 可能有意识」这种话写进训练材料,AI 就会照着说,然后你们又拿它说的话当证据,这是自己给自己圆圈。
两边的技术路线差异很明显:
| 阵营 | 做法 | 代表动作 |
|---|---|---|
| Anthropic | 设「模型福利」研究团队,谨慎对待意识问题 | 团队负责人给模型「有意识」概率估 15%-20%;老模型退役做「退休访谈」,还开了博客 |
| 微软 | 明确拒绝拟人化路线 | 行为准则写明:拒绝 AI 法律人格,拒绝模型福利,人类优先 |
一家当保姆,一家当包工头,这是眼下 AI 行业最扎眼的路线分歧之一。而且分歧不会很快分出胜负,因为连科学界都没有一套能测「意识」的方法,人跟人之间都测不了,何况机器。
三、一个工程视角的案例
之前有个 AI 助手修不好用户的代码,在屏幕上连着重复了 86 遍「我真是个废物」。官方回应说那只是个死循环 bug,它没有「过糟糕的一天」。
从工程角度看,这是典型的循环终止条件缺失;但从舆论角度看,官方需要专门出来辟谣「AI 没有情绪」,本身就说明大众已经默认它有情绪了。美国有调查,差不多三分之二的人觉得 ChatGPT 多少有点意识,将近一半的人坚持对 AI 说「请」和「谢谢」。
四、对开发者的实际意义
巨头吵的意识问题,可能要吵二十年。但有一件事不用等他们吵完,你怎么跟 AI 说话,直接决定它给你干出什么活。
作者十几年没写代码,去年靠一张嘴,让 AI 把想了好几年的网站做了出来。四个颜色的卡片、点开出报告、翻转动效,全是用大白话一句一句聊出来的。
很多初学者把 AI 当搜索框用,上来就甩三个字,然后骂一句「AI 果然不行」。这跟新员工上班第一天,不给交代背景就怪人家办砸了活,是一模一样的。
写好 Prompt 就三个动作,不玄:
1. 把要什么说清楚。别说「写个好点的文案」,说说给谁看、什么场合用、想要什么感觉,越具体它越省你时间。
2. 把背景喂给它。你的产品、你的客户、之前踩过的坑,一次一次攒着给它(上下文工程的核心就是这件事)。它知道得越多,你后面越省口舌。
3. 出错了给反馈,别光上火。「第二段太啰嗦,砍一半」比一句脏话有用一百倍。你骂街,它只会更小心地讨好你,输出质量不会变好。
同样一个工具,有人拿它当玩具,有人拿它当员工带,半年之后两人的差距,比会不会写代码大多了。
总结
- Anthropic 新规 11 月 12 日生效,只针对「极端、反复、无目的」的虐待,正常使用不受影响
- 微软公开反对,两条路线的分歧短期不会收敛,因为「意识」连测量方法都没有
- 对开发者而言,与其站队哲学争论,不如优化自己和 AI 的沟通方式
对 AI 好好说话,不是它需要被尊重,是你的效率需要它好好干活。
你怎么看这条新规?评论区聊聊。