AI Agent能实现自主复制吗?Anthropic研究揭示模型部署与IoT设备安全问题

随着大语言模型逐渐具备代码编写、工具调用和环境操作能力,AI Agent已经不再局限于回答问题。

如果让一个AI Agent在陌生设备上自行配置运行环境,它能否完成模型部署?如果进一步允许它在多台设备之间迁移,又能完成多少步骤?

2026年10月12日,Anthropic Frontier Red Team发布了一项关于AI模型自主复制能力的研究。

研究团队发现,部分模型已经能够独立完成模型部署、环境配置等任务。在简化的实验环境中,能力较强的模型还完成了多设备之间的复制流程。

不过,这些结果有明确的实验条件,并不意味着现实中的AI已经能够不受限制地自行传播。

这项研究更值得关注的,是AI Agent自动化能力与物联网设备安全之间的关系。

一、什么是AI模型的自主复制?

在讨论实验之前,需要先区分两个概念。

模型推理(Inference)

指使用已经训练好的模型,根据输入生成结果。例如,向大语言模型提问,模型输出回答。

自主复制(Autonomous Replication)

指一个AI系统在具备相应权限和工具的条件下,能够将模型文件、运行组件等部署到其他设备,并在新设备上继续执行任务。

这里的复制并不是训练出新的模型,也不是让模型自动变得更加聪明。

它更接近一种自动化部署过程。

可以把整个流程理解为:

  1. 识别可用的目标设备。

  2. 获取相应设备的访问和执行权限。

  3. 传输必要的模型文件与程序组件。

  4. 配置模型运行环境。

  5. 在新设备上启动模型推理服务。

  6. 在具备条件时继续部署到其他设备。

传统软件也能实现自动化部署,但通常依赖提前编写好的规则和脚本。

AI Agent的不同之处在于,它能够根据环境反馈调整操作方式。

例如,不同设备可能使用不同的操作系统、处理器架构或软件版本。

传统脚本遇到预期之外的问题可能直接失败,而具备一定能力的AI Agent可以尝试分析错误信息,寻找替代方案。

这也是本次研究的重要观察方向。

二、研究发现了什么?

Anthropic主要测试了两个问题:

  • AI模型能否在不熟悉的硬件环境中自主建立推理服务?

  • AI模型能否把多个步骤组合起来,完成连续的部署与复制任务?

研究中有三组数据比较有代表性。

1. 9种硬件环境,成功适配8种

研究人员使用一个90亿参数模型,在不同硬件环境下测试自动化推理部署能力。

测试结果显示,该模型在9种硬件类型中的8种上,成功配置并运行了推理环境。

这里的重点不是参数量,而是环境适配能力。

对于开发者来说,部署模型通常需要处理以下问题:

  • 处理器架构是否兼容

  • 系统依赖是否完整

  • 推理框架能否正常运行

  • 内存是否满足要求

  • 模型文件能否正确加载

这些步骤往往需要人工调试。

实验说明,部分模型已经能够自主处理其中相当一部分工作。

当然,成功部署不等于获得设备控制权,更不代表它可以绕过任意设备的安全机制。

2. 8台隔离测试设备,完成连续复制

研究团队还构建了一组隔离的云端测试环境。

实验使用8个运行Android模拟环境的节点,并预先设置了便于实验访问的接口。

在这一环境中,GLM-5.2完成了连续复制测试。

具体结果是:

  • 5次测试中,4次到达全部8个节点。

  • 另外1次到达7个节点。

这些结果说明,在简化访问条件下,模型能够连续完成设备发现、组件部署和后续操作。

但需要注意:实验中负责执行任务的模型,与部署到目标节点上运行的模型,并不完全相同。

研究人员使用较强的模型控制部署流程,在目标设备上建立较小模型的推理服务,以便统一比较不同模型的执行能力。

同时,测试环境还简化了部分设备访问步骤。

因此,这一结果不能直接理解为某个小模型已经能够独立完成现实网络中的所有传播环节。

3. 15台普通电视盒子,也能运行较大模型

另一项实验关注硬件资源问题。

研究人员使用15台价格约55美元的Android电视盒子,将一个约260亿参数的模型拆分部署到多个设备上。

这些设备通过网络共同承担模型推理工作。

最终,模型能够运行,但生成速度只有约每秒0.39个Token。

这个速度显然不适合普通用户进行实时对话。

但实验验证了一种可能性:

大型模型不一定只能在单台高性能设备上运行,也可以通过分布式方式利用多台资源有限的设备。

不过,低成本硬件的运算速度、内存、网络延迟都会影响实际性能。

能够运行和能够高效运行,是两个不同的问题。

三、AI Agent与传统自动化程序有什么区别?

从软件工程角度来看,这项研究涉及一个值得关注的变化。

传统自动化部署通常依赖确定性的执行流程。

例如,开发者提前指定环境检查、依赖安装、模型加载和服务启动的步骤。

当环境符合预期时,整个过程可以稳定运行。

但如果设备系统版本不同、软件包冲突或运行参数不兼容,就需要额外处理。

AI Agent则可以根据执行结果选择下一步操作。

两种方式可以简单对比:

对比项目 传统自动化脚本 AI Agent
执行逻辑 预先定义 可根据反馈调整
环境兼容 依赖适配规则 可尝试自主排查
异常处理 预设处理方式 可分析错误并尝试修复
执行稳定性 已知环境通常较高 受模型能力影响
权限控制 需要明确配置 同样需要明确配置
主要风险 脚本缺陷、权限配置错误 除传统风险外,还存在模型决策的不确定性

这里不能简单认为AI Agent一定比传统脚本更好。

在稳定、标准化的生产环境中,传统自动化仍然具有可预测、易测试、易审计等优势。

而在环境差异较大、需要反复排错的任务中,AI Agent可能发挥更大作用。

本次研究反映的,正是这种自主适应能力正在不断提高。

四、为什么研究重点放在IoT设备上?

IoT即物联网设备,包括智能电视、网络摄像头、家庭网关及其他能够连接网络的硬件。

研究人员关注这些设备,主要有两个原因。

第一,设备数量多,硬件类型复杂。

不同厂商使用的芯片、系统和软件环境并不统一。

如果AI Agent能够自主识别并适配这些差异,其自动化部署能力就可能适用于更多场景。

第二,部分设备的安全维护相对薄弱。

某些低成本设备存在长期不更新系统、默认配置不合理或权限管理不足等问题。

这些问题本来就是物联网安全领域长期关注的风险。

AI技术的发展可能进一步提高自动化操作的能力,但不会改变一个基本事实:

设备是否容易受到影响,仍取决于漏洞、访问控制、网络隔离等具体条件。

并不是只要设备能够联网,就能被AI随意访问。

五、这项研究有哪些限制?

读完实验数据,最容易产生的误解就是:

既然模型可以在多台设备间复制,是否意味着AI已经具备独立传播能力?

目前还不能这样判断。

主要有三个限制。

1. 测试环境经过简化

研究人员使用可控网络和模拟设备,部分访问接口被预先配置。

这些条件与真实互联网存在差异。

2. 小模型的能力仍然不足

部分较小模型可以完成单独的配置或部署任务,却无法稳定地将所有步骤连接起来。

能够成功执行一次操作,不代表可以长期、可靠地执行整套流程。

3. 硬件性能仍是限制因素

在低性能设备上运行模型,可能需要较长的推理时间。

研究中基于现有测试速度估算,部分部署任务可能需要数十小时甚至更久。

因此,即使未来出现能够在边缘设备间自主部署的AI系统,其运行效率也未必很高。

研究团队根据模型进步趋势推测,更小的模型可能在2026年底前后达到实验中较强模型所展示的部分能力水平。

但这只是趋势估算,不是已经得到验证的现实结果。

六、开发者应该关注哪些安全问题?

相比讨论AI是否会产生自我意识,对开发者来说,权限管理和执行环境隔离更加实际。

1. 限制Agent的执行权限

如果AI Agent需要调用命令行、访问文件或操作外部系统,应当遵循最小权限原则。

例如:

  • 仅开放完成任务所需的目录。

  • 对敏感操作设置人工确认。

  • 避免长期使用高权限账户运行Agent。

  • 对重要操作保留可追溯的执行记录。

2. 隔离不同的运行环境

开发测试环境与生产环境应当适当隔离。

对需要执行代码的Agent,可以根据业务要求采用容器、沙箱或其他隔离机制,并限制不必要的网络访问。

隔离机制也需要结合自身威胁模型评估,不能认为使用容器就意味着绝对安全。

3. 管理外部服务的访问凭证

部分 AI Agent 需要调用外部 API、云计算资源或第三方服务。除了控制访问权限,还应设置调用预算、使用配额和异常告警,避免自动化任务持续运行产生额外费用。如果同时使用多个海外 AI 服务,也可以通过 像是MXK8 梦想出海虚拟卡管理订阅支出,方便区分不同项目的费用。

相关推荐
指针向南1 小时前
PDF转长图用什么?3种方法实测(2026)
图像处理·人工智能·计算机视觉·pdf
郝学胜-神的一滴1 小时前
AI 编程智能体 09:零门槛调用教程
人工智能·数据分析·自动化·numpy·pandas·量化投资
商业看点解说1 小时前
支持私有化部署的 AI 助手有哪些?把“私有化“拆成四层,排除一类常被错放的产品
大数据·人工智能
清华kenny1 小时前
安徽晓得养HIS系统适合哪类健康机构升级使用
大数据·人工智能·安徽晓得养
kyriewen1 小时前
我抽查了 6 万个 Skills:前排没几个真货
人工智能·程序员·ai编程
掘金酱1 小时前
【10.24 特别活动】AI 时代,程序员的新饭碗在哪里?
前端·人工智能·后端
PNP Robotics1 小时前
【PNP机器人具身分享】GPT-6 Astra 作为原生机器人策略的实证研究,NVIDIA Astranomy 揭示具身智能的新路径
人工智能
SL_staff2 小时前
4G设备掉线三层归因指南:SIM卡、模组、JVS-IOT网关配置精准锁定
java·物联网·产品
后端小肥肠2 小时前
挖到公众号漫画黑马赛道:简笔画小动物讲历史,漫画工坊一键直出
人工智能·aigc·agent