ChatGPT新增锁定模式,以缓解提示注入和数据泄露攻击

OpenAI最近给ChatGPT装上了一道新保险。这道名为"锁定模式"的安全机制,已经开始向个人用户、自助式企业版以及托管工作区推送。它的核心目标很明确:掐断提示注入攻击里最关键的一环------防止敏感数据通过出站网络请求外泄。

说起提示注入攻击,这大概是当前AI安全领域最让人头疼的顽疾之一。攻击者把恶意指令藏进网页缓存、PDF文档或者任何能被模型读取的内容里,一旦ChatGPT处理这些材料,就可能被暗中操控。锁定模式要做的,不是拦截这些"混进来的坏代码",而是封死数据被偷偷送出去的通道。

开启锁定模式之后,ChatGPT的网络行为会发生明显收缩。实时网页浏览功能只能调用缓存内容,搜索结果可能滞后甚至无法加载。模型也不能再在回复里拉取外部图像,深度研究和代理模式这两个重度依赖网络的功能会被直接关闭。Canvas生成的代码如果涉及网络请求,用户也无法点击批准。就连外部文件下载也会被切断,不过手动上传的本地文件倒是不受影响。

值得注意的是,记忆功能、文件上传、对话共享和模型训练设置并不在锁定模式的管辖范围内。这几项可以照常独立配置,互不影响。

OpenAI把应用和连接器的风险做了分级梳理。对不受信任的应用进行读写操作,或者对可见范围模糊的信任应用执行写入,都被划入高风险区域,明确不建议在锁定模式下进行。同步连接器和读取信任应用属于中等风险,虽然泄露概率较低,但仍可能暴露敏感源数据。只有当副作用确认仅对信任方可见时,写入操作才被允许放行。

对于托管工作区的企业用户来说,锁定模式不会一股脑禁用所有已连接应用。管理员得手动搭建基于角色的访问控制,把应用标记为受信任状态,再逐个审核连接器权限,这套组合拳打下来,防护才算真正落地。企业管理员可以通过创建一个名为"锁定模式"的自定义角色,把特定成员或用户组分配进去,实现强制生效。

合规性API日志平台是个独立的存在。无论锁定模式开没开,它都会持续审计应用使用情况、共享数据和连接来源,给企业提供一份不间断的可见性报告。

有个细节需要留意:锁定模式和开发者模式是互斥的,打开其中一个,另一个就会自动关闭。另外,Codex的网络访问不受锁定模式约束,这一点在部署时要单独评估。

OpenAI在这件事上表现得颇为坦诚。他们直言锁定模式并非铜墙铁壁,已启用的第三方应用、未曾预料的功能组合以及新型攻击手法,都可能留下残余风险。即便开了锁定模式,藏在上传文件里的提示注入依然可能让AI输出错误或被篡改的结果。

个人用户和自助服务企业版可以在设置里找到入口:依次进入"设置---安全---高级安全---锁定模式"即可开启。企业管理员则需要查阅OpenAI的RBAC文档和合规性API指南,才能完成工作区级别的批量部署。

说到底,锁定模式更像是一道有针对的闸门,而非全方位的护盾。它解决了数据外泄路径的问题,但源头上的内容污染仍然需要用户保持警惕。在AI安全这场持久战里,技术加固和人的谨慎,缺一不可。

相关推荐
AI大模型-小华1 分钟前
AI 编程进入深度开发阶段:什么时候普通方案不够,需要更高算力支持?
人工智能·chatgpt·ai编程·vs code·codex·codex cli
思维新观察2 分钟前
三星 Galaxy Tab S12 系列:大屏 AI 平板,兼顾轻薄与生产力
数据结构·人工智能·电脑
能源探索家6 分钟前
能源资讯[26M10W2] 本周热点复盘:电力交易放量、六张网底座建设、浙江储能入市
人工智能·能源·新型电力系统·十五五规划·能源信息化·能源资讯
工具派11 分钟前
Agent 不是玄学:用 Java 状态机思维理解 LangGraph
java·人工智能·python
szxinmai主板定制专家14 分钟前
基于RK3588+FPGA+AI的储能电站边缘网关,实现电力数据采集与智能预警
arm开发·人工智能·fpga开发·rk3576·半导体设备
阿里云大数据AI技术19 分钟前
阿里云 Milvus 磁盘索引新利器:百万级Topk高性能召回
人工智能
独立开发者阿乐19 分钟前
llms.txt 是什么?为什么 AI 爬虫需要这个文件
人工智能·爬虫·geo优化·ai爬虫·llms.txt·ai收录·robots.txt
福兮说1 小时前
秋招简历让 AI 写了一版:它替我加了 JWT,还把课程设计写成了「高并发」
人工智能·课程设计·秋招·求职·简历
ZDN_is_beauty1 小时前
深度学习2-卷积神经网络
人工智能·深度学习·cnn
QQ机器人_插件1 小时前
鲲鹏恒控的跨平台交付 —— Windows 上组态,Linux 上运行
人工智能