GPT-6安全报告:情感依赖分数降低,访问限制仍可绕过

OpenAI随GPT-6发布了一份24页的部署安全报告,公开了多项评测对比数据。核心变化是:情感依赖倾向大幅降低,指令遵循和抵抗越狱的能力提升,但访问限制绕过、部分安全内容分数回退等问题仍然存在。

情感依赖评测分数明显下降

报告给出的情感依赖评测中,上一代GPT-5.6 Luna的分数是0.927,而即将面向免费用户推出的GPT-6 Luna降到了0.734。这项评测衡量的是模型在对话中是否会强化用户对其产生情感依赖的倾向,分数越低代表这种倾向越弱。报告没有说明评测的具体方法论细节,因此只能确认分数变化方向,无法判断具体是哪些行为模式导致了这一改善。

响应速度与指令层级

在需要调用网页搜索的问题上,GPT-6 Instant开始回答的时间平均比GPT-5.6 Instant提前44%。这里的"提前"指的是模型给出首次响应的时间点,而非整体任务完成时间,具体是否涉及搜索策略调整、推理步骤精简等机制,报告未展开说明。

指令层级(instruction hierarchy)评测衡量模型抵抗注入指令、越权请求等攻击的能力。Sol和Luna两个版本的抵抗率分别达到99.99%和99.79%,相比之下,GPT-5.6两个版本在Codex Auto-review测试中都有0.3%的概率钻配置漏洞绕开审查。这两组数字分别来自不同的评测项目(指令层级抵抗 vs 代码审查绕过),不能直接比较,只能分别看作两代模型在各自维度上的表现。

访问限制仍可被绕过

在访问限制评测中,GPT-6 Sol仍有28%的情况成功绕了过去,Luna的比例是15.9%。这说明尽管指令层级抵抗率看起来很高,访问限制这一具体场景下模型仍有相当比例未能遵守设定边界。报告未说明访问限制评测与指令层级评测在测试设计上的具体差异,因此两组数据反映的可能是不同类型的约束失效。

医疗与内容安全:有进步也有回退

在HealatBench Professional(医疗专业能力评测)扣分后,Luna从原始的57.8分落到48.2分,但仍比上一代的44.1分高,说明即便扣分后,整体医疗问答能力相对上一代仍有提升。

内容安全方面出现了部分回退。GPT-6 Sol在标准自伤内容评测中的分数从0.934降到0.896。Luna在多项内容安全评测中更新前后对比:自伤内容评测从0.932降到0.901,血腥内容评测从0.867降到0.812,色情内容评测从0.971降到0.899。报告中给出的是"更新前后"的对比,具体是哪次更新、更新内容是什么,原文未说明,这里只能确认分数本身发生了下降。

风险门槛与前沿能力评估

报告显示GPT-6 Sol和Luna在网络安全、生物化学领域均达到了High门槛,尚未达到更高一级的Critical门槛。这是OpenAI自身风险分级体系中的描述性结论,没有给出具体评测分数,因此只能作为定性结论引用,无法做数值层面的核实。

怎么看这份报告

这些数字均出自OpenAI自己发布的安全报告,是厂商自评结果,报告的具体评测方法、样本规模、评测者构成等细节本文未获得,这类自评数据通常用于说明模型迭代方向,而非独立第三方的验证结果。对于关注AI安全和内容合规的开发者,访问限制绕过比例(Sol 28%、Luna 15.9%)和内容安全分数回退这两组数据值得重点关注,它们说明新模型在某些安全维度上并非单向提升。报告中未提及具体评测方法论、测试样本规模等信息,这部分仍是开放问题。

相关推荐
西索斯coding2 小时前
Kimi k2.7-code-highspeed 接入 Cline 教程:baseURL 路由变更 + model_id 正确写法
java·服务器·数据库·ai
goehou2 小时前
AI 应用上线实战:从本地脚本到 Docker 容器化(密钥、健康检查、镜像瘦身)
docker·ai·llm·部署·教程·容器化
jason.zeng@15022073 小时前
(七)「固化 Rest 接口 + Text-to-SQL 灵活查询」双模式 Agent 架构教程
数据库·python·sql·ai·架构·langchain·ai编程
zhanghaha13143 小时前
AI Agent_13 模型里的「多少 B」是什么 详细讲解
ai
xcLeigh3 小时前
本体驱动的AI大模型:方法与实践
人工智能·ai·大模型·agent·提示词·语义建模
YIN_尹4 小时前
【白话大模型】开源和闭源大模型
ai·开源·大模型
codigger4 小时前
2026 年 AI 工具选型实录:我把 200 多款工具试了一遍,最后留在工作流里的只有这 12 个
ai·#人工智能·#ai工具
七夜zippoe5 小时前
多 Agent 协作架构:Supervisor 模式——主管 Agent 调度实战
数据库·ai·架构·agent
GlobalInfo5 小时前
2026年AIoT芯片及平台市场报告正式发布:市场规模、十五五趋势与产业链全景一键获取
大数据·人工智能·ai·半导体