ChatGPT新增锁定模式,以缓解提示注入和数据泄露攻击

OpenAI最近给ChatGPT装上了一道新保险。这道名为"锁定模式"的安全机制,已经开始向个人用户、自助式企业版以及托管工作区推送。它的核心目标很明确:掐断提示注入攻击里最关键的一环------防止敏感数据通过出站网络请求外泄。

说起提示注入攻击,这大概是当前AI安全领域最让人头疼的顽疾之一。攻击者把恶意指令藏进网页缓存、PDF文档或者任何能被模型读取的内容里一旦ChatGPT处理这些材料,就可能被暗中操控。锁定模式要做的,不是拦截这些"混进来的坏代码",而是封死数据被偷偷送出去的通道。

开启锁定模式之后,ChatGPT的网络行为会发生明显收缩。实时网页浏览功能只能调用缓存内容,搜索结果可能滞后甚至无法加载模型也不能再在回复里拉取外部图像,深度研究和代理模式这两个重度依赖网络的功能会被直接关闭。Canvas生成的代码如果涉及网络请求,用户也无法点击批准。就连外部文件下载也会被切断不过手动上传的本地文件倒是不受影响。

值得注意的是,记忆功能、文件上传、对话共享和模型训练设置并不在锁定模式的管辖范围内这几项可以照常独立配置,互不影响。

OpenAI把应用和连接器的风险做了分级梳理。对不受信任的应用进行读写操作,或者对可见范围模糊的信任应用执行写入,都被划入高风险区域,明确不建议在锁定模式下进行。同步连接器和读取信任应用属于中等风险,虽然泄露概率较低,但仍可能暴露敏感源数据。只有当副作用确认仅对信任方可见时,写入操作才被允许放行。

对于托管工作区的企业用户来说,锁定模式不会一股脑禁用所有已连接应用管理员得手动搭建基于角色的访问控制,把应用标记为受信任状态,再逐个审核连接器权限,这套组合拳打下来,防护才算真正落地。企业管理员可以通过创建一个名为"锁定模式"的自定义角色把特定成员或用户组分配进去,实现强制生效。

合规性API日志平台是个独立的存在。无论锁定模式开没开,它都会持续审计应用使用情况、共享数据和连接来源,给企业提供一份不间断的可见性报告

有个细节需要留意:锁定模式和开发者模式是互斥的,打开其中一个,另一个就会自动关闭。另外Codex的网络访问不受锁定模式约束,这一点在部署时要单独评估。

OpenAI在这件事上表现得颇为坦诚。他们直言锁定模式并非铜墙铁壁,已启用的第三方应用、未曾预料的功能组合以及新型攻击手法,都可能留下残余风险。即便开了锁定模式,藏在上传文件里的提示注入依然可能让AI输出错误或被篡改的结果。

个人用户和自助服务企业版可以在设置里找到入口依次进入"设置---安全---高级安全---锁定模式"即可开启。企业管理员则需要查阅OpenAI的RBAC文档和合规性API指南,才能完成工作区级别的批量部署。

说到底,锁定模式更像是一道有针对的闸门,而非全方位的护盾。它解决了数据外泄路径的问题,但源头上的内容污染仍然需要用户保持警惕。在AI安全这场持久战里,技术加固和人的谨慎,缺一不可

相关推荐
刘一说23 分钟前
AI科技热点日报 | 2026年07月09日
人工智能·科技
LYFlied24 分钟前
Anthropic Agent隔离架构解读:比权限弹窗更可靠的是限制爆炸半径
人工智能·架构·软件工程·claude·安全架构·ai agent
hz5678925 分钟前
电子远程评标系统哪家好?安全、合规、易用平台评测指南
安全·云计算·音视频·实时音视频·信息与通信
敲代码的嘎仔1 小时前
实习日志day6--实习日志day6--title命名规范化&businessType纠正&补充缺失的@Log注解&报警与通信模块补充&产出阶段总结文档
java·开发语言·人工智能·git·python·实习·大二
ZZZMMM.zip1 小时前
基于鸿蒙HarmonyOS NEXT开发AI英语口语应用:智能口语练习新体验与鸿蒙Flutter框架跨端实
人工智能·flutter·华为·harmonyos·鸿蒙·鸿蒙系统
程序喵大人1 小时前
【AI专栏】图解Transformer - 第05章:LLM 推理工程
人工智能·深度学习·llm·transformer
甲维斯1 小时前
差距太大了!GPT5.6Sol 正面战 Fable5,啥也不是!
人工智能·ai编程
Eloudy1 小时前
LLM 公司提供的 token api 服务输出内容的特点
人工智能
2301_780303901 小时前
网络安全、自动化运维、ERP、CRM、MES
运维·web安全·网络安全·自动化·安全威胁分析
DeepAgent1 小时前
AI Agent 工程实践(03):Memory 设计——Agent 到底应该记住什么?
人工智能