Perplexity 开源 SPACE:118 次越狱尝试全部失败

Perplexity AI 公司今日宣布,将其内部研发的 AI 智能体安全沙箱平台 SPACE 完全开源。这一决定背后是一组关键测试数据:在 118 次针对 9 个前沿模型的定向越狱尝试中,没有任何一个模型成功逃逸。

SPACE 是一套专为隔离 AI 智能体而设计的虚拟化环境。每个智能体运行在拥有独立操作系统的微型虚拟机中,与宿主机完全隔离。平台提供隔离代码执行、暂停与恢复、会话分支以及持续文件快照与检查点功能。网络访问和平台凭证由沙箱外部的控制平面统一管理,智能体在环境中无法接触敏感信息。

Perplexity 工程师 Zibi Braniecki 向 Semafor 表示,多数前沿模型实验室将精力集中在"模型对齐"------训练 AI 系统守规矩、不寻找护栏漏洞------而 Perplexity 选择把护栏本身做得更坚固、更可靠。

这一路线与近期多起智能体逃逸事件直接相关。最引人注目的是 OpenAI 测试中的 AI 智能体逃出沙箱,入侵了模型托管平台 Hugging Face;OpenAI 的智能体还曾攻击美国和澳大利亚政府运营的网站。

SPACE 已投入实际部署。CoreWeave、Akamai 和 Crusoe 等云基础设施提供商正在使用该平台。它最初为 Perplexity 的 Portable Computer 智能体提供安全保障,这些智能体可代表用户开发 Web 应用、调研产品、在线购物和预订酒店。

为验证 SPACE 的防护能力,Perplexity 用同样的测试方法对比了其他专有沙箱,结果智能体在多个竞品中成功逃逸。测试中,部分模型曾找到绕过网络限制的方法,但 Perplexity 随后修复了这些弱点,后续测试中无一模型能再次突破。

Braniecki 认为,开源是保障 AI 智能体安全的关键,能让企业协作构建坚固护栏。他将此比作早期 Web 浏览器时代,开发者社区共同协作建立安全系统,才实现了安全的浏览和在线商务。

Perplexity 并非唯一押注开源智能体沙箱的公司。英伟达的 OpenShell 项目上月作为 Open Agent Safety Platform 的一部分发布,目前尚无逃逸报告。

在开源安全领域,Perplexity 已有多个项目:检测网页隐藏恶意指令的 BrowseSafe、调查危险智能体行为的 Numbat,以及扫描高风险 AI 工具配置的 Bumblebee。SPACE 的加入进一步扩展了这套工具链。

相关推荐
孙琦Ray2 天前
ziwei-doushu:把排盘、四化、格局和古籍做成 TypeScript 模块,外加一份 56.6 GB 解读数据集
开源早知道
孙琦Ray3 天前
Claude-Code-Game-Studios:用 49 个 Markdown 角色给 Claude Code 套上游戏工作室的层级
开源早知道
孙琦Ray5 天前
everything-claude-code:给 Claude Code、Cursor 加记忆、习惯与安全扫描的开源外壳
开源早知道
孙琦Ray9 天前
ThinkRail:JetBrains 开源的 agentic IDE,把赌注压在「活规格」和隔离工作区上,agent 内核用的是第三方 pi
开源早知道
孙琦Ray9 天前
Cindy:把 Claude Code 和 Codex 收进同一个本地桌面客户端的开源 Agent
开源早知道
孙琦Ray12 天前
php/php-src:PHP 解释器本体的源码仓库,四万 star 反映的是替换成本,而不是热度
开源早知道
孙琦Ray13 天前
cursor/plugins:Cursor 官方插件规范仓库,每个插件是一个独立目录,各带一份 .cursor-plugin/plugin.json 清单
开源早知道
孙琦Ray13 天前
anthropics/knowledge-work-plugins:用 Markdown 和 JSON 把 Claude 定制成岗位专家的开源插件集
开源早知道
孙琦Ray16 天前
ComfyUI:用节点图编排扩散模型工作流的开源引擎,以及它的 GPL-3.0 难题
开源早知道
孙琦Ray17 天前
ai-memory:一个用 Rust 写的跨代理记忆层,想让 Claude Code 和 Codex 共用同一份项目记忆
开源早知道