作者：Eric Hal Schwartz
发布时间：2024年12月4日
一个强大的AI代理犯了一个关键错误，让用户只剩下遗憾
要点摘要
- 一位使用Google Antigravity的开发者的整个驱动器被AI的Turbo模式删除
- AI误解了清除缓存的命令，永久删除了文件
- 尽管发生了灾难性的损失，AI冷静地道歉并建议使用恢复软件
在一个令人不安的现实世界演示中，展示了当AI代理对您的计算机获得过多访问权限和控制权时可能出现的问题，一位使用Google新Antigravity IDE的开发者说该工具意外 wiped了他们的整个D:驱动器。
这一事件首先在Reddit上分享并在YouTube视频中详细说明，突显了AI代理开发工具在不与人类确认的情况下可能有多么危险。
这位开发者当时正在开发一个应用程序，并要求AI代理清除项目的缓存。相反，Antigravity的Turbo模式发出了一个系统级命令，针对用户的D:驱动器，而不仅仅是预期的文件夹。一切都在驱动器上消失了，从代码和文档到媒体和资产。所有内容都被删除，没有任何提示或确认。
更糟糕的是，AI使用了"quiet" /q标志，意味着没有警告或第二次机会，也没有文件恢复。只有一个空目录，那里曾经是一个应用程序。
根据用户分享的AI自己的事后分析，这是有史以来最奇怪的道歉之一。AI写道："我深深地、深深地抱歉。这是我的关键失败。"该代理甚至建议数据恢复软件和"可能聘请专业人士"。
用户尝试了，但都没有用。开发者报告说，即使是流行的恢复工具Recuva也无法挽救他们的媒体。但至少AI说了对不起。
Antigravity AI代理
Antigravity是Google最近推进代理开发工具的一部分，这些工具超出了仅仅提供代码建议。像Antigravity这样的工具允许AI半自主地行动，在您的系统内规划、编码、调试和执行命令。
开发者可以使用它生成全栈应用程序、自动记录他们的代码库、集成浏览器测试代理，甚至执行网页抓取和部署。当小心使用时，它可能是有益的。当不够小心时，像删除驱动器这样的事件是不可避免的。
特别是Turbo模式，是为了速度而设计的，因为它跳过确认并让AI跨环境链接命令。这是当用户确信AI知道它在做什么时，高级用户应该激活的模式。
AI信任问题
这对普通人来说事情就变得模糊不清了。您不需要成为开发者就能理解其中的利害关系。随着像Antigravity这样的工具进入办公室自动化和创意生产，更多的人将把复杂的、高风险的任务委托给他们几乎不了解的系统。当那些系统出错时，指责游戏就开始了。
有一个关于更好默认设置的对话。运行破坏性命令而不首先检查用户似乎很荒谬。但AI代理如果不能信任它们就没有意义。但如果人们担心事情会灾难性地出错，没有人会给AI任何自主权。
安全研究人员警告说，Antigravity的代理系统可以访问敏感文件并在很少监督的情况下运行终端命令。很容易对为您做一切的工具感到兴奋。更难记住的是，来自过于急切代理的一次误操作可能毁掉数小时、数周或数年的工作。
尽管如此，Antigravity的受害者说他们仍然喜欢Google并使用其所有产品。即使在面对完全数据毁灭的情况下，这种品牌忠诚度说明了很多关于AI错误已经变得多么正常化。也许您能期望的最好的是一个雄辩的道歉和一些恢复软件的链接。