翻译:Agentic AI:面向企业应用的智能

以下是 Cisco Outshift 博客文章《Agentic AI: Intelligence for Enterprise Use》的中文翻译:


Agentic AI:面向企业应用的智能

AI Agent(人工智能代理)通过推理、规划、交互、执行和使用工具,协作完成特定目标。它们依靠自我学习与持续改进,可独立或协同行动。这类基于软件的系统预计将构成企业软件的基础,利用大语言模型(LLM)与现有工具执行操作。

随着 Agent 能力不断提升,我们需要构建一个由成千上万个可互操作的 Agent 组成的全球网络------即"Agent 互联网"(Internet of Agents)。该网络能通过标准协议,在多样化的环境中实现通信与协作。

目前,Agent 仍需大量人工监督与手动配置。在未来,它们将能动态发现任务、自动构建执行图、找到合适的工具,并在极少甚至无需人工干预的情况下适应环境变化。自主性(autonomy)、代理能力(agency)和动态性(dynamism)共同影响着 AI 系统的设计、创建与运行方式------从手工定制走向自组织。


AI Agent 演进的理解框架

我们可以将 AI Agent 的演进类比于自动驾驶汽车的五级自主性。预计 AI Agent 也会呈现出类似的智能光谱。理解这一演进路径及其对企业的影响,是展望自动化世界中智能系统未来的关键。

企业已在构建 Agent 以自动化内部流程和工作流。随着趋势延续,它们不仅会开发自己的 Agent,还会集成外部 Agent,形成一个动态的、由智能自主 Agent 构成的生态系统。由此,我们预计将有数以千计的 Agent 在全球互联资源系统中协同运行。

这些 Agent 具备互操作性。部署在不同位置、来自不同来源的 Agent 将通过标准协议与通用通信渠道进行协作。企业会根据自身需求创建新 Agent,同时也会使用外部开发的 Agent。


Agent 自主性等级(Levels of Agentic Autonomy)

等级 描述
Level 1:基于规则的自动化 所有系统和流程均基于规则或脚本,对特定输入执行预设操作,缺乏适应能力。
Level 2:机器学习辅助自动化 基于机器学习的 Agent 在特定任务中提供辅助,任务仍属确定性范畴,决策能力受限。
Level 3:部分自动化 基于 LLM 的 Agent 可对明确定义的用例进行自主规划,理解目标、制定并执行计划。
Level 4:高度自动化 AI Agent 在大多数情况下自主运行,拥有传感器以进行环境观察,能从经验中学习,并基于上下文进行泛化。
Level 5:完全自主 Agent 无需人类干预,具备原创思维,并体现个性与情感,能解决训练时未预见的问题(接近通用人工智能 AGI)。

Level 1:基于规则的自动化

该层级的 Agentic AI 系统主要依赖规则或脚本来执行预设操作。例如,交互式语音应答(IVR)系统根据客户标识路由电话或检索信息。尽管能有效处理简单任务,但缺乏适应性和学习能力,任何超出预设范围的情况都需要人工介入。

Level 2:机器学习集成

引入机器学习,部分步骤通过 ML 模型增强,但整体任务仍是确定性的。例如,对客户工单进行自动分类,或分析员工调研结果中的模式。最终仍需人工介入。

Level 3:部分自动化

企业开始广泛采用基于 LLM 的 Agent。这些 Agent 能理解目标、自主规划并调用工具执行任务。典型例子包括:结合检索增强生成(RAG)的对话助手,回答 HR 相关问题,或自动生成提案文档。

⚠️ 重要提示:从 Level 3 起,企业需注意------LLM 本质上是随机的(stochastic),其输出具有不确定性。在需要精确输出(如调用 API)的场景中,微小错误可能在级联系统中迅速放大。因此,必须建立全面的错误缓解策略。

Level 4:高度自动化

Agent 能协同工作、自主决策并进行反思。它们通过传感器观察环境,追踪突发任务,展现动态决策能力。例如撰写财务报告、核对复杂发票、解数学方程、重写企业级沟通文案。目前,此级别仍需"人在环路"(Human-in-the-Loop)审批,但已为更高自主性铺平道路。

Level 5:完全自主

达到最高自主性,即通用人工智能(AGI)。这类 Agent 具备原创思维、情感与个性,能无缝协作,甚至指挥其他 Agent。它们可解决初始训练中未曾设想的问题,如同数字时代的知识型员工。


企业软件生命周期中的 Agentic 自主性

典型的 AI Agent 软件生命周期从"创建"开始,到"观察与评估"结束。从 Level 1 到 Level 5,每个阶段的自主性逐步提升,生命周期各环节也随之演进:

  • 创建(Create):开发者构建新 Agent,并使其可用(包括生成合成或真实数据)。
  • 规划(Plan):理解任务意图,生成灵活的工作大纲。
  • 组合(Compose):智能发现并编排最适合完成任务的子任务列表。
  • 编排(Orchestrate):驱动并管理由"组合"阶段设计的任务执行。
  • 保障(Safeguard):验证每个 Agent 的身份,确保其可信,并输出安全、合规的结果。
  • 观察与评估(Observe & Evaluate):监控 Agent 执行过程,收集每一步遥测数据,用于错误追踪、分析与持续改进。

各自主性等级下,这些流程的自动化程度逐步提高。


AI 自主性对企业治理的启示

随着自主性提升(尤其是 Level 3--5),企业面临的风险也随之增加。必须建立政策与监督机制,防止意外后果,确保符合法律与伦理规范。

在 Level 5 阶段,若缺乏适当防护措施,完全自主的 AI 可能对企业造成灾难性影响。因此,企业需采取主动、伦理导向的治理方法,通过技术方案与监管措施实现:

  • 动态风险管理
  • 伦理合规
  • 持续监控

同时,应构建治理框架,在鼓励创新的同时,确保问责制、社会福祉,并缓解偏见、隐私泄露与数据安全等风险。

Levels 3--5 的 AI 治理要点:

等级 治理重点
Level 3 设立 AI 治理办公室,制定策略;批准特定 GenAI 工具;注册 AI 生成内容的版权;限制企业数据上传;设置输入/输出护栏;禁止生成违规内容。
Level 4 限制 Agent 行动空间;关键决策强制人工审批;支持操作回滚;明确"仅建议不执行"场景;在受控渠道沙箱部署;默认安全行为;对模糊或高风险操作主动澄清;部署 AI 监督员;实现 Agent 身份认证;嵌入"不作恶"理念。
Level 5 设置"终止开关";支持人类接管且 Agent 不得抵抗;限制代理任务的二次委托;禁止用于特定高风险领域(如生物武器、网络战);提供逆向工程工具包;内置类似"阿西莫夫机器人三定律"的伦理准则;遵循全球 AI 标准与国际法;具备适应新挑战并自我调整的能力。

共创协作、自主的未来

Agentic AI 在企业软件开发中的演进,正开启一个新前沿------企业有机会重新定义流程、提升决策能力,并在自动化世界中实现增长。通过审慎应对 Agentic AI 的复杂性,企业可引领通往更智能未来的道路。

在 Cisco 的 Outshift,我们深知软件开发的未来将带来前所未有的创新。我们正在构建一个开放、可互操作、以 Agent 为中心、量子安全的基础设施,为 AI 未来奠基。但我们无法独自完成。与我们一起,共同塑造 AI 的未来。


原文链接:outshift.cisco.com/blog/agenti...

翻译仅供参考,关键术语保留英文以确保准确性。

相关推荐
武子康2 小时前
AI研究-121 DeepSeek-OCR 研究路线:无限上下文、跨模态抽取、未来创意点、项目创意点
人工智能·深度学习·机器学习·ai·ocr·deepseek·deepseek-ocr
半臻(火白)2 小时前
从“看见文字”到“理解内容”:DeepSeek-OCR重构OCR 2.0时代的效率革命
人工智能
FreeCode3 小时前
LangChain 1.0智能体开发:记忆组件
人工智能·langchain·agent
Geoking.3 小时前
PyTorch 中 model.eval() 的使用与作用详解
人工智能·pytorch·python
nn在炼金3 小时前
图模式分析:PyTorch Compile组件解析
人工智能·pytorch·python
Danceful_YJ3 小时前
25.样式迁移
人工智能·python·深度学习
woshihonghonga3 小时前
Deepseek在它擅长的AI数据处理领域还有是有低级错误【k折交叉验证中每折样本数计算】
人工智能·python·深度学习·机器学习
乌恩大侠3 小时前
以 NVIDIA Sionna Research Kit 赋能 AI 原生 6G 科研
人工智能·usrp
三掌柜6663 小时前
借助 Kiro:实现《晚间手机免打扰》应用,破解深夜刷屏困境
人工智能·aws