ChatGPT新增锁定模式,以缓解提示注入和数据泄露攻击

OpenAI最近给ChatGPT装上了一道新保险。这道名为"锁定模式"的安全机制,已经开始向个人用户、自助式企业版以及托管工作区推送。它的核心目标很明确:掐断提示注入攻击里最关键的一环------防止敏感数据通过出站网络请求外泄。

说起提示注入攻击,这大概是当前AI安全领域最让人头疼的顽疾之一。攻击者把恶意指令藏进网页缓存、PDF文档或者任何能被模型读取的内容里一旦ChatGPT处理这些材料,就可能被暗中操控。锁定模式要做的,不是拦截这些"混进来的坏代码",而是封死数据被偷偷送出去的通道。

开启锁定模式之后,ChatGPT的网络行为会发生明显收缩。实时网页浏览功能只能调用缓存内容,搜索结果可能滞后甚至无法加载模型也不能再在回复里拉取外部图像,深度研究和代理模式这两个重度依赖网络的功能会被直接关闭。Canvas生成的代码如果涉及网络请求,用户也无法点击批准。就连外部文件下载也会被切断不过手动上传的本地文件倒是不受影响。

值得注意的是,记忆功能、文件上传、对话共享和模型训练设置并不在锁定模式的管辖范围内这几项可以照常独立配置,互不影响。

OpenAI把应用和连接器的风险做了分级梳理。对不受信任的应用进行读写操作,或者对可见范围模糊的信任应用执行写入,都被划入高风险区域,明确不建议在锁定模式下进行。同步连接器和读取信任应用属于中等风险,虽然泄露概率较低,但仍可能暴露敏感源数据。只有当副作用确认仅对信任方可见时,写入操作才被允许放行。

对于托管工作区的企业用户来说,锁定模式不会一股脑禁用所有已连接应用管理员得手动搭建基于角色的访问控制,把应用标记为受信任状态,再逐个审核连接器权限,这套组合拳打下来,防护才算真正落地。企业管理员可以通过创建一个名为"锁定模式"的自定义角色把特定成员或用户组分配进去,实现强制生效。

合规性API日志平台是个独立的存在。无论锁定模式开没开,它都会持续审计应用使用情况、共享数据和连接来源,给企业提供一份不间断的可见性报告

有个细节需要留意:锁定模式和开发者模式是互斥的,打开其中一个,另一个就会自动关闭。另外Codex的网络访问不受锁定模式约束,这一点在部署时要单独评估。

OpenAI在这件事上表现得颇为坦诚。他们直言锁定模式并非铜墙铁壁,已启用的第三方应用、未曾预料的功能组合以及新型攻击手法,都可能留下残余风险。即便开了锁定模式,藏在上传文件里的提示注入依然可能让AI输出错误或被篡改的结果。

个人用户和自助服务企业版可以在设置里找到入口依次进入"设置---安全---高级安全---锁定模式"即可开启。企业管理员则需要查阅OpenAI的RBAC文档和合规性API指南,才能完成工作区级别的批量部署。

说到底,锁定模式更像是一道有针对的闸门,而非全方位的护盾。它解决了数据外泄路径的问题,但源头上的内容污染仍然需要用户保持警惕。在AI安全这场持久战里,技术加固和人的谨慎,缺一不可

相关推荐
m0_734571765 小时前
深入理解人工智能 chatGPT的软件架构
人工智能
飞塔老梅子6 小时前
09. Codex 节省Token ❀ 老梅子学AI
人工智能·ai·token·模型·codex
HyperAI超神经6 小时前
扰动实验+迁移学习,MIT团队推出IRIS,用「指纹」重建单细胞信号传导历史
人工智能·深度学习·机器学习·迁移学习
前沿在线6 小时前
启元机器人亮相外滩大会,探索个人机器人健康服务新场景
人工智能·ai·大模型
haishikeji696_6 小时前
现成无人机管理系统源码|支持私有化部署、二次开发、政企投标、自动机库对接
人工智能·无人机·低空经济·无人机管理系统·飞控管理系统
汇智信科6 小时前
煤矿视频智能分析系统:基于 AI 视觉实现井下安全隐患实时监测与闭环管控
人工智能
h78813946 小时前
录音容易纪要难?录音转文字 + AI 纪要实测,提升会议效率
人工智能·powerpoint
涛思数据(TDengine)6 小时前
从“极速算“到“知识沉淀“:工业 AI 实战直播(十三、十四期)
人工智能·时序数据库·tdengine·工业互联网·工业ai
Summer-Bright6 小时前
深度 | OpenAI 联合三星造芯:从模型层向底层算力延伸,AI 算力供应链开始重新洗牌
人工智能·ai·openai·芯片