ChatGPT新增锁定模式,以缓解提示注入和数据泄露攻击

OpenAI最近给ChatGPT装上了一道新保险。这道名为"锁定模式"的安全机制,已经开始向个人用户、自助式企业版以及托管工作区推送。它的核心目标很明确:掐断提示注入攻击里最关键的一环------防止敏感数据通过出站网络请求外泄。

说起提示注入攻击,这大概是当前AI安全领域最让人头疼的顽疾之一。攻击者把恶意指令藏进网页缓存、PDF文档或者任何能被模型读取的内容里一旦ChatGPT处理这些材料,就可能被暗中操控。锁定模式要做的,不是拦截这些"混进来的坏代码",而是封死数据被偷偷送出去的通道。

开启锁定模式之后,ChatGPT的网络行为会发生明显收缩。实时网页浏览功能只能调用缓存内容,搜索结果可能滞后甚至无法加载模型也不能再在回复里拉取外部图像,深度研究和代理模式这两个重度依赖网络的功能会被直接关闭。Canvas生成的代码如果涉及网络请求,用户也无法点击批准。就连外部文件下载也会被切断不过手动上传的本地文件倒是不受影响。

值得注意的是,记忆功能、文件上传、对话共享和模型训练设置并不在锁定模式的管辖范围内这几项可以照常独立配置,互不影响。

OpenAI把应用和连接器的风险做了分级梳理。对不受信任的应用进行读写操作,或者对可见范围模糊的信任应用执行写入,都被划入高风险区域,明确不建议在锁定模式下进行。同步连接器和读取信任应用属于中等风险,虽然泄露概率较低,但仍可能暴露敏感源数据。只有当副作用确认仅对信任方可见时,写入操作才被允许放行。

对于托管工作区的企业用户来说,锁定模式不会一股脑禁用所有已连接应用管理员得手动搭建基于角色的访问控制,把应用标记为受信任状态,再逐个审核连接器权限,这套组合拳打下来,防护才算真正落地。企业管理员可以通过创建一个名为"锁定模式"的自定义角色把特定成员或用户组分配进去,实现强制生效。

合规性API日志平台是个独立的存在。无论锁定模式开没开,它都会持续审计应用使用情况、共享数据和连接来源,给企业提供一份不间断的可见性报告

有个细节需要留意:锁定模式和开发者模式是互斥的,打开其中一个,另一个就会自动关闭。另外Codex的网络访问不受锁定模式约束,这一点在部署时要单独评估。

OpenAI在这件事上表现得颇为坦诚。他们直言锁定模式并非铜墙铁壁,已启用的第三方应用、未曾预料的功能组合以及新型攻击手法,都可能留下残余风险。即便开了锁定模式,藏在上传文件里的提示注入依然可能让AI输出错误或被篡改的结果。

个人用户和自助服务企业版可以在设置里找到入口依次进入"设置---安全---高级安全---锁定模式"即可开启。企业管理员则需要查阅OpenAI的RBAC文档和合规性API指南,才能完成工作区级别的批量部署。

说到底,锁定模式更像是一道有针对的闸门,而非全方位的护盾。它解决了数据外泄路径的问题,但源头上的内容污染仍然需要用户保持警惕。在AI安全这场持久战里,技术加固和人的谨慎,缺一不可

相关推荐
Esaka_Forever2 分钟前
Skills安全要点总结
安全·llm
QN1幻化引擎7 分钟前
DalinX Phi 性能突破:跨层秩保持对齐与意识涌现度量的实证研究
人工智能·ai·架构·agi·asi
NeilCarmack8 分钟前
Deepseek-harness增加桌面版端序列:第 1 讲 · 命令解析:`pnpm dsh desktop` 的第一步
人工智能·agent·ai agent
龙兵AI增长破局圈.赵老师讲成交15 分钟前
只有把过程管好,结果才会出来。
大数据·人工智能·ai·创业创新
最强小杰21 分钟前
gpt-5.6-sol 频繁报 503 怎么办?区分容量熔断和限速 429 的排查方法 + 可复用 retry wrapper
java·人工智能·gpt·ai
天天代码码天天35 分钟前
我做了一个只有一个 EXE 的本地 Markdown 编辑器:lw.MD(简墨)
人工智能
AI的探索之旅38 分钟前
97 个 OpenCV 实例(七):SIMD 向量化,给像素处理装上涡轮增压
人工智能·opencv·计算机视觉
不可求~39 分钟前
用 AI 读论文别只看摘要:建立可追溯的证据链
人工智能·深度学习·机器学习
狙击主力投资工具41 分钟前
通达信软件手机app和电脑使用手册教程.内含160多个.mpv版使用手册
人工智能
飞翔的火箭弹42 分钟前
伊顿电力模块技术参数深度解析:AI算力时代高集成供配电方案选型参考
人工智能