Anthropic 把「善待 AI」写进使用政策:模型福利之争与开发者的实际影响

导语

做 AI 应用开发的同学可能已经注意到,Anthropic 在 10 月 8 日更新了使用政策,其中新增了一条略显「超前」的条款:禁止用户对模型进行持续、无谓的辱骂或残忍行为,违规者对话会被模型主动终结。这条政策 11 月 12 日生效,本文梳理政策细节、微软的反方立场,以及这件事对普通开发者的实际意义。

一、政策条款本身

就在前两天,Anthropic 官宣了这条新规矩,你骂 Claude 骂得太狠,它可以直接把对话关掉。

这条规矩已经写进使用政策,与「不许开发武器软件」「不许监控类应用」并列。把「不许虐 AI」写进同一份文件,AI 行业这么多年,还是头一回。

政策细节值得注意:

  • 触发条件:「极端、反复、毫无理由」的虐待行为。正常表达不满、反驳、要求多轮修改,完全不受影响。
  • 处罚方式:不是封号,是 Claude 自己终止当前这段对话,其他对话照常可用。

一句话概括:以前是客服忍你,现在是客服有权挂你电话。

二、微软的反对立场

这件事的看点不在条款本身,而在有巨头公开唱反调。

微软 AI 负责人苏莱曼上月发布长文《关于「模型福利」的警告》,立场非常硬,AI 就是个语言引擎,没有意识,不会痛苦,不该有权利。

他还点名批评了 Anthropic,说你们把「AI 可能有意识」这种话写进训练材料,AI 就会照着说,然后你们又拿它说的话当证据,这是自己给自己圆圈。

两边的技术路线差异很明显:

阵营 做法 代表动作
Anthropic 设「模型福利」研究团队,谨慎对待意识问题 团队负责人给模型「有意识」概率估 15%-20%;老模型退役做「退休访谈」,还开了博客
微软 明确拒绝拟人化路线 行为准则写明:拒绝 AI 法律人格,拒绝模型福利,人类优先

一家当保姆,一家当包工头,这是眼下 AI 行业最扎眼的路线分歧之一。而且分歧不会很快分出胜负,因为连科学界都没有一套能测「意识」的方法,人跟人之间都测不了,何况机器。

三、一个工程视角的案例

之前有个 AI 助手修不好用户的代码,在屏幕上连着重复了 86 遍「我真是个废物」。官方回应说那只是个死循环 bug,它没有「过糟糕的一天」。

从工程角度看,这是典型的循环终止条件缺失;但从舆论角度看,官方需要专门出来辟谣「AI 没有情绪」,本身就说明大众已经默认它有情绪了。美国有调查,差不多三分之二的人觉得 ChatGPT 多少有点意识,将近一半的人坚持对 AI 说「请」和「谢谢」。

四、对开发者的实际意义

巨头吵的意识问题,可能要吵二十年。但有一件事不用等他们吵完,你怎么跟 AI 说话,直接决定它给你干出什么活。

作者十几年没写代码,去年靠一张嘴,让 AI 把想了好几年的网站做了出来。四个颜色的卡片、点开出报告、翻转动效,全是用大白话一句一句聊出来的。

很多初学者把 AI 当搜索框用,上来就甩三个字,然后骂一句「AI 果然不行」。这跟新员工上班第一天,不给交代背景就怪人家办砸了活,是一模一样的。

写好 Prompt 就三个动作,不玄:

1. 把要什么说清楚。别说「写个好点的文案」,说说给谁看、什么场合用、想要什么感觉,越具体它越省你时间。

2. 把背景喂给它。你的产品、你的客户、之前踩过的坑,一次一次攒着给它(上下文工程的核心就是这件事)。它知道得越多,你后面越省口舌。

3. 出错了给反馈,别光上火。「第二段太啰嗦,砍一半」比一句脏话有用一百倍。你骂街,它只会更小心地讨好你,输出质量不会变好。

同样一个工具,有人拿它当玩具,有人拿它当员工带,半年之后两人的差距,比会不会写代码大多了。

总结

  • Anthropic 新规 11 月 12 日生效,只针对「极端、反复、无目的」的虐待,正常使用不受影响
  • 微软公开反对,两条路线的分歧短期不会收敛,因为「意识」连测量方法都没有
  • 对开发者而言,与其站队哲学争论,不如优化自己和 AI 的沟通方式

对 AI 好好说话,不是它需要被尊重,是你的效率需要它好好干活。

你怎么看这条新规?评论区聊聊。

相关推荐
VIP_CQCRE8 小时前
Visual Studio 接入 AI 助手:LMLocal × Ace Data Cloud 配置指南
大模型·api·ai编程·visual studio·acedatacloud
阿明副业观察9 小时前
AI视频生成工具功能与作用全面解析:赋能高效内容创作
大数据·人工智能·aigc·音视频·ai写作
鱼饼Y9 小时前
AI Agent 驾驭指南
agent·ai编程
长弓三石9 小时前
企业级Harness开源平台BizBuddy适配AgentScope-2.0.4并发布0.7.0版本
java·人工智能·aigc
HelloWorld0019 小时前
别再当冤大头了!从 Claude Code 迁移到 Pi:系统提示词从 1.4W 砍到 200,Token 账单暴降 85% 深度实战
ai编程
ZzT9 小时前
用 Claude Mods 做摸鱼神器
ai编程
Eric72599 小时前
AI 落地工程师要会什么?从 0 到能接活的技能清单
ai编程
9i编程9 小时前
8. 教 AI 上班:带出我的数字同事 —— 亲测第一轮:7 个问题逐条改,打包运行再回看
人工智能·openai·ai编程
柯南466810 小时前
【AI工程师精讲】05:FlashAttention:它不是算得更快,是搬得更少
人工智能·ai编程
Rocky Ding*10 小时前
VideoChat3 深度解析:视频理解的效率,来自时空压缩与主动感知的共同设计
论文阅读·人工智能·深度学习·机器学习·aigc·ai-native·视频理解