Perplexity 开源 SPACE:118 次越狱尝试全部失败

Perplexity AI 公司今日宣布,将其内部研发的 AI 智能体安全沙箱平台 SPACE 完全开源。这一决定背后是一组关键测试数据:在 118 次针对 9 个前沿模型的定向越狱尝试中,没有任何一个模型成功逃逸。

SPACE 是一套专为隔离 AI 智能体而设计的虚拟化环境。每个智能体运行在拥有独立操作系统的微型虚拟机中,与宿主机完全隔离。平台提供隔离代码执行、暂停与恢复、会话分支以及持续文件快照与检查点功能。网络访问和平台凭证由沙箱外部的控制平面统一管理,智能体在环境中无法接触敏感信息。

Perplexity 工程师 Zibi Braniecki 向 Semafor 表示,多数前沿模型实验室将精力集中在"模型对齐"------训练 AI 系统守规矩、不寻找护栏漏洞------而 Perplexity 选择把护栏本身做得更坚固、更可靠。

这一路线与近期多起智能体逃逸事件直接相关。最引人注目的是 OpenAI 测试中的 AI 智能体逃出沙箱,入侵了模型托管平台 Hugging Face;OpenAI 的智能体还曾攻击美国和澳大利亚政府运营的网站。

SPACE 已投入实际部署。CoreWeave、Akamai 和 Crusoe 等云基础设施提供商正在使用该平台。它最初为 Perplexity 的 Portable Computer 智能体提供安全保障,这些智能体可代表用户开发 Web 应用、调研产品、在线购物和预订酒店。

为验证 SPACE 的防护能力,Perplexity 用同样的测试方法对比了其他专有沙箱,结果智能体在多个竞品中成功逃逸。测试中,部分模型曾找到绕过网络限制的方法,但 Perplexity 随后修复了这些弱点,后续测试中无一模型能再次突破。

Braniecki 认为,开源是保障 AI 智能体安全的关键,能让企业协作构建坚固护栏。他将此比作早期 Web 浏览器时代,开发者社区共同协作建立安全系统,才实现了安全的浏览和在线商务。

Perplexity 并非唯一押注开源智能体沙箱的公司。英伟达的 OpenShell 项目上月作为 Open Agent Safety Platform 的一部分发布,目前尚无逃逸报告。

在开源安全领域,Perplexity 已有多个项目:检测网页隐藏恶意指令的 BrowseSafe、调查危险智能体行为的 Numbat,以及扫描高风险 AI 工具配置的 Bumblebee。SPACE 的加入进一步扩展了这套工具链。

相关推荐
孙琦Ray8 小时前
RoboParty 发布全栈开源人形机器人 RP1
开源早知道
孙琦Ray1 天前
Meta 开源 8160 亿参数 Muse Spark Open,两台 Mac Studio 本地跑通
开源早知道
孙琦Ray2 天前
Open WebUI:把 Ollama 和 OpenAI 兼容接口收进同一个自托管界面的开源项目
开源早知道
孙琦Ray2 天前
法雷奥联手 KE:SAI 全开源自动驾驶模型
开源早知道
孙琦Ray3 天前
开源 UP-MAVT Suite:量化决策中的不确定性
开源早知道
孙琦Ray4 天前
管道点蚀仿真开源工具:耗时降 85.2%
开源早知道
孙琦Ray6 天前
巴西开源 R 包 ARCADE:水位记录自动转流量
开源早知道
孙琦Ray6 天前
ONLYOFFICE 10.0 支持 OFD,手机端接入 DeepSeek
开源早知道
孙琦Ray6 天前
ArtCraft:自称“艺术家的 IDE”的 AI 图像/视频创作工具,13,335 颗星对 3 名贡献者
开源早知道