以下是 Cisco Outshift 博客文章《Agentic AI: Intelligence for Enterprise Use》的中文翻译:
Agentic AI:面向企业应用的智能
AI Agent(人工智能代理)通过推理、规划、交互、执行和使用工具,协作完成特定目标。它们依靠自我学习与持续改进,可独立或协同行动。这类基于软件的系统预计将构成企业软件的基础,利用大语言模型(LLM)与现有工具执行操作。
随着 Agent 能力不断提升,我们需要构建一个由成千上万个可互操作的 Agent 组成的全球网络------即"Agent 互联网"(Internet of Agents)。该网络能通过标准协议,在多样化的环境中实现通信与协作。
目前,Agent 仍需大量人工监督与手动配置。在未来,它们将能动态发现任务、自动构建执行图、找到合适的工具,并在极少甚至无需人工干预的情况下适应环境变化。自主性(autonomy)、代理能力(agency)和动态性(dynamism)共同影响着 AI 系统的设计、创建与运行方式------从手工定制走向自组织。
AI Agent 演进的理解框架
我们可以将 AI Agent 的演进类比于自动驾驶汽车的五级自主性。预计 AI Agent 也会呈现出类似的智能光谱。理解这一演进路径及其对企业的影响,是展望自动化世界中智能系统未来的关键。
企业已在构建 Agent 以自动化内部流程和工作流。随着趋势延续,它们不仅会开发自己的 Agent,还会集成外部 Agent,形成一个动态的、由智能自主 Agent 构成的生态系统。由此,我们预计将有数以千计的 Agent 在全球互联资源系统中协同运行。
这些 Agent 具备互操作性。部署在不同位置、来自不同来源的 Agent 将通过标准协议与通用通信渠道进行协作。企业会根据自身需求创建新 Agent,同时也会使用外部开发的 Agent。
Agent 自主性等级(Levels of Agentic Autonomy)
| 等级 | 描述 |
|---|---|
| Level 1:基于规则的自动化 | 所有系统和流程均基于规则或脚本,对特定输入执行预设操作,缺乏适应能力。 |
| Level 2:机器学习辅助自动化 | 基于机器学习的 Agent 在特定任务中提供辅助,任务仍属确定性范畴,决策能力受限。 |
| Level 3:部分自动化 | 基于 LLM 的 Agent 可对明确定义的用例进行自主规划,理解目标、制定并执行计划。 |
| Level 4:高度自动化 | AI Agent 在大多数情况下自主运行,拥有传感器以进行环境观察,能从经验中学习,并基于上下文进行泛化。 |
| Level 5:完全自主 | Agent 无需人类干预,具备原创思维,并体现个性与情感,能解决训练时未预见的问题(接近通用人工智能 AGI)。 |
Level 1:基于规则的自动化
该层级的 Agentic AI 系统主要依赖规则或脚本来执行预设操作。例如,交互式语音应答(IVR)系统根据客户标识路由电话或检索信息。尽管能有效处理简单任务,但缺乏适应性和学习能力,任何超出预设范围的情况都需要人工介入。
Level 2:机器学习集成
引入机器学习,部分步骤通过 ML 模型增强,但整体任务仍是确定性的。例如,对客户工单进行自动分类,或分析员工调研结果中的模式。最终仍需人工介入。
Level 3:部分自动化
企业开始广泛采用基于 LLM 的 Agent。这些 Agent 能理解目标、自主规划并调用工具执行任务。典型例子包括:结合检索增强生成(RAG)的对话助手,回答 HR 相关问题,或自动生成提案文档。
⚠️ 重要提示:从 Level 3 起,企业需注意------LLM 本质上是随机的(stochastic),其输出具有不确定性。在需要精确输出(如调用 API)的场景中,微小错误可能在级联系统中迅速放大。因此,必须建立全面的错误缓解策略。
Level 4:高度自动化
Agent 能协同工作、自主决策并进行反思。它们通过传感器观察环境,追踪突发任务,展现动态决策能力。例如撰写财务报告、核对复杂发票、解数学方程、重写企业级沟通文案。目前,此级别仍需"人在环路"(Human-in-the-Loop)审批,但已为更高自主性铺平道路。
Level 5:完全自主
达到最高自主性,即通用人工智能(AGI)。这类 Agent 具备原创思维、情感与个性,能无缝协作,甚至指挥其他 Agent。它们可解决初始训练中未曾设想的问题,如同数字时代的知识型员工。
企业软件生命周期中的 Agentic 自主性
典型的 AI Agent 软件生命周期从"创建"开始,到"观察与评估"结束。从 Level 1 到 Level 5,每个阶段的自主性逐步提升,生命周期各环节也随之演进:
- 创建(Create):开发者构建新 Agent,并使其可用(包括生成合成或真实数据)。
- 规划(Plan):理解任务意图,生成灵活的工作大纲。
- 组合(Compose):智能发现并编排最适合完成任务的子任务列表。
- 编排(Orchestrate):驱动并管理由"组合"阶段设计的任务执行。
- 保障(Safeguard):验证每个 Agent 的身份,确保其可信,并输出安全、合规的结果。
- 观察与评估(Observe & Evaluate):监控 Agent 执行过程,收集每一步遥测数据,用于错误追踪、分析与持续改进。
各自主性等级下,这些流程的自动化程度逐步提高。
AI 自主性对企业治理的启示
随着自主性提升(尤其是 Level 3--5),企业面临的风险也随之增加。必须建立政策与监督机制,防止意外后果,确保符合法律与伦理规范。
在 Level 5 阶段,若缺乏适当防护措施,完全自主的 AI 可能对企业造成灾难性影响。因此,企业需采取主动、伦理导向的治理方法,通过技术方案与监管措施实现:
- 动态风险管理
- 伦理合规
- 持续监控
同时,应构建治理框架,在鼓励创新的同时,确保问责制、社会福祉,并缓解偏见、隐私泄露与数据安全等风险。
Levels 3--5 的 AI 治理要点:
| 等级 | 治理重点 |
|---|---|
| Level 3 | 设立 AI 治理办公室,制定策略;批准特定 GenAI 工具;注册 AI 生成内容的版权;限制企业数据上传;设置输入/输出护栏;禁止生成违规内容。 |
| Level 4 | 限制 Agent 行动空间;关键决策强制人工审批;支持操作回滚;明确"仅建议不执行"场景;在受控渠道沙箱部署;默认安全行为;对模糊或高风险操作主动澄清;部署 AI 监督员;实现 Agent 身份认证;嵌入"不作恶"理念。 |
| Level 5 | 设置"终止开关";支持人类接管且 Agent 不得抵抗;限制代理任务的二次委托;禁止用于特定高风险领域(如生物武器、网络战);提供逆向工程工具包;内置类似"阿西莫夫机器人三定律"的伦理准则;遵循全球 AI 标准与国际法;具备适应新挑战并自我调整的能力。 |
共创协作、自主的未来
Agentic AI 在企业软件开发中的演进,正开启一个新前沿------企业有机会重新定义流程、提升决策能力,并在自动化世界中实现增长。通过审慎应对 Agentic AI 的复杂性,企业可引领通往更智能未来的道路。
在 Cisco 的 Outshift,我们深知软件开发的未来将带来前所未有的创新。我们正在构建一个开放、可互操作、以 Agent 为中心、量子安全的基础设施,为 AI 未来奠基。但我们无法独自完成。与我们一起,共同塑造 AI 的未来。
原文链接:outshift.cisco.com/blog/agenti...
翻译仅供参考,关键术语保留英文以确保准确性。