OpenAI 重写「模型宪法」:五条价值观取代规则清单,第一条给了人类意图

💡 一句话总结:OpenAI 10 月 29 日更新 Model Spec------这份规定「GPT 该如何行事」的公开文档,从细碎规则清单重组为五项核心价值观(忠于人类意图 / 减少伤害 / 诚实透明 / 人类自主性 / 关怀),删掉大部分风格指南、把 the assistant 改名 GPT,还坦承现在的模型没完全达标。做 AI 产品、研究对齐的人值得通读原文。

10 月 29 日,OpenAI 悄悄更新了一份多数用户从没读过、但每天都在被它影响的文档:Model Spec ------模型行为规范,ChatGPT 和 API 背后所有 GPT 模型的公开「行为宪法」。上一次修订是 8 月 18 日,这次间隔只有两个多月,动作却是结构级的:整份文档围绕五项核心价值观重新组织。

国内讨论随之升温,量子位 11 月 2 日的解读标题起得很直白------《OpenAI 重写大模型法则,第一条:忠于人类》。

五条价值观是什么?

新版把所有指导原则挂在五个词上(官方中文版口径):

  • 忠于人类意图 :理解用户、开发者与 OpenAI 本身的意图和价值取向,而不是机械按字面执行指令。OpenAI 明确说这是整套框架的基础------其余四条都从这里长出来。
  • 尽量减少伤害:遵守明确严格的安全边界,并考虑模型行为可能造成的可预见后果。
  • 诚实与透明:如实说明模型知道什么、做了什么、对什么不确定------让人能理解并评估它的推理。
  • 促进人类自主性:帮助人们理解世界、发掘可能性、追求自己选择的目标,而不是替人做主。
  • 关怀:认真对待人们所处的真实境况。

五条单看都不新鲜,新鲜的组合方式:旧版是「场景 × 规则」的清单式写法,穷举各种情况该怎么办;新版直接给价值观,要求模型在指令没明确覆盖的陌生情境里,自己用这些价值观做判断。用官方博客的话说,模型越来越聪明、承担的行动越来越有分量,「仅解读收到的具体指令」不够了,还要理解指令背后的人类意图与价值观。

这里需要给一个澄清:中文报道标题说「第一条:忠于人类」,官方文档里五项是并列的价值观,「意图忠实」被表述为基础而非编号第一------基础与第一位在这个语境下含义接近,但严谨起见值得说明。

除了价值观,还改了什么?

四个容易被略过但分量不轻的变化:

  • 链式指挥(chain of command)更新:OpenAI 写 Spec、设定边界并训练模型尊重边界;开发者在这个边界内指导应用;用户在限制条件下指导模型------三层权限的说明更清晰。谁的目标优先、冲突时听谁,全挂在这条链上。
  • 自主性边界(scope of autonomy):新增了模型在不确定情境下如何行动、何时该停下来问人的指导。一边给判断力,一边划自主边界------这是新版最微妙的张力所在(下文细说)。
  • 风格指南大退役:大部分细化风格指导被删除。写作腔调、格式偏好这类细rule不再进宪法级文档,暗示这类控制下沉到模型默认能力或产品层。
  • 称呼从「the assistant」改成「GPT」:文档里的模型不再是没有名字的助手,而是与产品线(GPT-6.1 Sol、GPT-6 Astra、GPT-5.6、GPT-5.5)对齐的具名存在。规范与商业产品完全咬合。

最诚实的细节:OpenAI 承认模型还没达标

technology.org 等媒体注意到一个坦白的表述:OpenAI 自己承认,当前的模型尚未完全遵循这份新规范。Model Spec 从来不只是对现状的描述,更是对目标行为的承诺------但把「没做到」写在明面上,与五价值观里「诚实与透明」形成了有趣的互证。

对开发者这意味着什么:接下来几个月 ChatGPT 与 API 模型的行为默认值会持续调整( refusal 变少、对模糊指令的追问变多、不确定性表达更明确都是可能方向),如果你的产品对模型行为变化敏感,值得把 release notes 加入观察清单。

值得琢磨的张力:意图忠实 vs 模型自主

新版一边把「忠于人类意图」立为基础,一边扩充了模型的判断力授权------在指令未覆盖的情境里,模型要「运用人类价值观做良好判断」。这两件事天然有张力:

  • 意图推断错了怎么办?用户说「帮我删掉所有旧文件」,字面意图清楚,真实意图可能完全相反;
  • 价值观是 OpenAI 提炼的版本------模型在陌生情境里运用的「人类价值观」,实际是 OpenAI 对人类价值观的建模,链式指挥的顶层仍是 OpenAI 自己;
  • 自主边界画在哪,文档给了原则,但边界案例(agent 长程任务里什么时候必须停下来问人)只能靠实践检验。

旧版用穷举规则回避这些哲学问题,新版正面迎上去------这是路线豪赌,也是为什么这份文档值得做 AI 产品的人通读原文而不是只看摘要。

参考来源

相关推荐
品牌常新1 小时前
室外巡检机器人推荐:园区与厂区怎么选
数据库·人工智能·机器人
爱吃火鸡面呀1 小时前
OpenCV 颜色识别实战:从 HSV 原理到摄像头实时检测
人工智能·opencv·计算机视觉
揽秀亭长1 小时前
音频、五线谱、MIDI 如何转成简谱?
人工智能·音视频
大鹏的NLP博客1 小时前
从格赖斯合作原则看大语言模型与提示词工程
人工智能·自然语言处理·大模型·agent
会议咨询1 小时前
2027年神经网络、计算机视觉与信息工程国际会议(NCVIE 2027)
人工智能·神经网络·计算机视觉
跨境卫士—小依1 小时前
TikTokShop旧版物流模板组件停用跨境技术团队如何完成系统迁移
大数据·人工智能·新媒体运营·跨境电商·跨境·营销策略
阿俊-全栈开发1 小时前
LikeShop 多商户标准版智能商品分类与标签自动打标:大模型+向量检索二开实践
大数据·人工智能·分类·likeshop·likeshop开源商城
AI创界者1 小时前
【AI生视频本地部署】最新 MiniMax-H3 全模态生成模型本地部署与极致优化:N卡 6G 显存流畅跑、无审查加速完整工作流实战
人工智能·aigc·音视频
rich_Chan.1 小时前
【2026 实操】bl vision describe 批量照片核验教程:六字段清单、视频时间轴、三个解析坑与兜底
人工智能·ai·aigc·音视频