就在不久前，科技界目光聚焦于一篇别具深意的文章。其作者正是 Salesforce 首席科学家、斯坦福大学计算机科学兼职教授------Silvio Savarese。
Savarese 还有一个令人瞩目的身份------「AI 教母」李飞飞的丈夫。
Silvio Savarese 深入探讨了 AI 智能体的未来发展，提出了三大阶段的演变：从独立任务执行到多智能体协作，再到企业级的全面协调。
智能体将不仅仅是工具，更将成为提升工作效能和创造力的强大伙伴。
同时，他还深入思考了在这一激动人心的发展进程中，人类所应扮演的角色与承担的责任。
本文在不改变原文大意的情况下，编译如下：
最近，通过推出 Agentforce，Salesforce 正在推动企业迈向一个全新的 AI 赋能时代。
步入 AI 的第三波浪潮，借助 AI 智能体，人们工作起来会更有能力、更觉有趣、更富创造力。
从人才招聘到医疗保健领域，AI 与人类在各行各业的合作日益广泛。这种协作不仅能快速满足大规模的需求，而且在多数情况下，比单纯的人工操作更加精准。
虽然需要些时间，但智能体无疑会在多方面优化我们的工作：提升生产力与效率，辅助战略决策，我坚信，它还能提高整体工作满意度。
无论普通员工还是高管，几乎所有企业人员都能在调配人力的同时，指挥数字劳动力。
在这个时代的发展进程中，信任和问责制至关重要。
其演进分为三个阶段：首先，专业智能体负责独立任务；接着，多智能体系统实现无缝协作；最后，企业级协调系统将彻底改变企业的运作模式。
Salesforce 的 AI 研究团队肩负着塑造企业 AI 未来的使命。接下来，为大家讲讲我们对智能体发展的展望，以及人类在此过程中需扮演的角色 。
AI 智能体的演变：从规则到推理
LLM 是经过训练的深度学习模型，能理解文本还能生成文本。
AI 智能体的发展和机器学习的进步密切相关。早期传统的基于规则的系统，比如机器人过程自动化（RPA），能精准完成一系列任务，但在应对变化时就容易出现问题。这类早期系统需要大量技术支持，还要找专业人员咨询。
过去几十年，机器处理信息的方式有了很大变化，从原来死板的自动化系统，变成了现在灵活、适应能力强又高效的学习系统。
现在，像 Agentforce 这样的现代平台造出的智能体，能明白具体情况，适应新变化，还能做各种任务。
而未来的发展方向更值得期待：我们将会有借助多智能体推理的自适应智能体。
这种智能体可以从周围环境中学到东西，在实际使用中不断进步，能和人类、企业客户、合作伙伴、供应商一起工作。甚至，还能跟越来越贴近人们生活的个性化 AI 助手配合。
现在，我们才刚开始朝着企业 AI 智能体发展的三个阶段迈进。
企业智能体的三个阶段
就好比音乐从简单的单音旋律，逐渐演变成复杂美妙的交响乐。AI 智能体也在不断进步，从单个独自工作，变为多个智能体协同配合。
每个阶段都建立在上一阶段的基础上，为企业创造出更加丰富、更有层次的互动。
第一阶段：单个 AI 专家智能体
第一阶段，专家智能体聚焦特定行业，能出色完成既定任务。这给日常关键的商业运作带来了前所未有的效率和准确性。这些智能体是企业应用 AI 的基础。它们处理零散任务又稳又快，极大改变了部门的工作流程。
它们还能将 AI 的最新成果用于工作。比如，精准预测最佳行动方案，根据每位客户的偏好和行为，给出高度个性化的产品推荐。此外，不管是面向客户、服务还是销售代表（人和智能体都是如此），都能生成高质量的指导意见、营销文案和信函。
例如，在商业领域，智能体彻底改变了库存和账户管理。
智能体可不只做简单的库存检查，还会主动监控多个地点的库存状况，预测季节性需求变化，实时生成账户摘要，从中找出不寻常的模式或潜在机会。
过去，人工分析这些任务要花好几个小时，现在智能体几秒钟就能搞定，而且分析得更准、更透彻。这给零售客户带来了更优质、更个性化，甚至是神奇的体验。
服务运营也发生了类似转变。这些智能体不光能做基本的账单汇总，还会分析客户互动模式，自动对服务请求分类、排序，进而得出有关客户需求的预测性洞察。
智能体能够发现客户行为中的趋势，这些趋势可能意味着客户满意度有问题，或者存在业务拓展机会。如此一来，就为服务团队提供了实用信息，而不只是一堆原始数据。
如此一来，客户服务变得轻松又流畅。终端客户几乎察觉不到服务的存在------很多时候，他们还没意识到有问题，问题就已经解决了。
金融服务领域，智能体大大提高了客户服务效率。
确认争议时，智能体能分析交易历史，识别潜在的欺诈活动，还会自动启动相关安全协议。做财务规划时，智能体整合市场数据、客户个人历史和各类经济指标，生成全面的分析报告。
合理使用这些智能体，企业后台的运作效率会大幅提升，消费者也能体验更先进的私人银行、投资指导和财富管理服务。
第二阶段：复合智能体------无缝协作者
这一阶段，公司内部的专家智能体开始协同合作，朝着一个共同的商业目标努力。
「协调者智能体」负责组织多个专家智能体协同工作。这就好比餐厅的总经理，要把出色的接待员、服务员、经理、厨师、备餐员和配送员组织起来，大家齐心协力，赢得那个梦寐以求的米其林星级。
在复杂的商业场景中，复合智能体的表现是怎样的呢？我们来看看这个客户服务场景。
有一位忠诚的零售客户，想要更换一款过季商品的尺码。这时，多个智能体在背后默默协作。
首先，有一名前线服务代表负责处理客户最初的询问。接着，一名库存专家会去检查各个地方的产品库存情况。同时，物流智能体开始计算运输选项和时间安排。还有账单专家，认真审查客户的账户历史和支付选项。
最关键的是「协调者智能体」，它把前面这些智能体的工作成果汇总到一起，生成一个有条理、高效率，既符合品牌形象又贴合客户需求的回复。这些回复会交给前线工作人员，他们审核、完善后，再分享给客户。
当多智能体方法实施得当，「协调者智能体」为人类协调者提供服务时，能带来诸多由 AI 驱动的显著优势：
-
可靠性提升：系统借助专门化、可靠的智能体聚焦特定领域。由于每个智能体的工作范围较窄，这不仅提升了可靠性，还减少了幻觉现象。
-
安全性增强：采用分布式处理方式，把敏感数据的处理交给特定智能体，从而增强了安全性。
-
可扩展性强：随着需求改变，生态系统能无缝扩展。组织可不断增添新的专门化智能体，轻松拓展功能。这或许是其中最重要的优势。
第三阶段：集成式智能体------企业协调者
在理想的最终阶段，跨组织边界的复杂智能体对智能体（A2A）交互出现了，这开创了全新的商业模式。
除了传统的企业对企业（B2B）、企业对消费者（B2C）模式外，还涌现出企业对智能体（B2A），甚至企业对智能体再到消费者（B2A2C）的交互形式。在这些新模式中，AI 智能体成了工作和交易的中介。
来看一个简单的汽车租赁场景：客户的个人 AI 智能体与租赁公司的商业 AI 智能体进行谈判。
客户智能体一心争取更划算的价格和更多价值，租赁公司智能体则试图靠附加服务多赚钱。但租赁公司的智能体得拿捏好分寸，推销要积极，又不能太激进，以防生意被竞争对手抢走。
这些智能体之间的交互，需要依据复杂的博弈理论。这要求它们具备高超的谈判技巧，遵循特定的协议，能够在不确定的情况下管理风险，有可靠的信任验证机制，还要能巧妙地化解冲突。
现在，想象一下复杂的企业流程。
就拿供应链优化和客户协调这些工作来说，无论你是消费者，还是企业员工，集成式 AI 能让你拥有一个智能助手。这个助手可以根据你的需求和期望，处理复杂的协调工作，开展有价值的协作。
但是，要实现这个目标，我们人类还有很多工作要做。
必要条件：信任与责任
当我们部署愈发复杂的智能体系统时，每一项决策都必须遵循信任与责任这两个基本原则。
构建信任
在智能体时代，信任的内涵远不止于防范有害内容、偏见和幻觉。
Salesforce 近期的研究表明，61% 的客户觉得，随着 AI 的发展，可信度变得比以往任何时候都更加重要。我们正步入一个全新领域，在这个领域中，组织需要对人类与 AI 的共生关系抱有深度信任。
这种信任基于以下要素。首先是准确性和边界：AI 智能体必须在明确的范围里运行，同时保持准确。
智能体的自我意识同样关键。就像一个值得敬重的同事，AI 智能体得清楚自己的能力边界，明白什么时候该向人类寻求帮助。这就需要一套复杂的交接协议，保证 AI 和人类能无缝配合。
比如，我们的 AI 研究团队正在研究训练方法，教 AI 智能体遇到解决不了的难题时，把不确定的地方标出来，接着去寻求帮助。只要训练得当，AI 就会知道什么时候不能瞎猜，而是向人类求助。
对于多智能体系统，我们还需要全球公认和广泛采用的协议。有了这些协议，协调者智能体才能安全、合乎道德地与其他企业的智能体交流、协商与合作，实现双方共同利益。这种互动得快速、高效，还得公平。
最后，随着 AI 智能体越来越多，我们的安全措施也得增强。
和其他技术一样，一些人也会利用 AI 搞破坏。他们可能会训练 AI 蠕虫来泄露数据，或者尝试控制其他 AI 智能体，曝光客户的私人数据。
强化保护、做好隐私控制以及持续进行监控，是维持信任的关键。只有建立了信任，AI 才能从工具变成和我们一起成长的业务伙伴。
确保问责制
当组织开始部署能每秒做出数千个决策的 AI 智能体时，需要建立明确的责任和监督框架。
这样一来，一旦出现问题，我们就能有应对的办法。这要有一套周全的方案。下面讲讲负责监督智能体的管理团队该怎么做。
清晰的责任链条：AI 智能体做出重要决策时，得清楚到底谁来负责，不能有丝毫含糊。这可能意味着建立新的角色，比如「AI 运维官」，他们不仅有权监管智能体的部署工作，而且在问题发生时也承担责任。
我们需要一个强大的系统，在信息不完整、有偏见、出现幻觉或者产生有害输出之前，就把问题查出来并解决掉。
这可不只是做简单的安全检查，还要持续监控智能体做出的决策，具备实时干预的能力，而且要有一套完整的审计追踪机制。
研究团队最近在检索增强生成（RAG）上有了很大的进展，这让 AI 系统获取和验证信息的方式有了很大改善。这些新成果能让我们快速评估和调整 AI 系统，确保它给出的结果既准确又靠谱。
要制定一套流程，让人类能对智能体进行监督和干预。不能只局限于「human-in-the-loop」这个简单概念，要设计出更复杂的框架，明确人类在何时、以何种方式介入智能体的决策。
在常规任务中，智能体能充分发挥自主性，而遇到重大决策时，人类的判断仍能起到关键作用 。
一旦出现错误，我们要有一套结构化应对方法。这不仅包含技术层面的回滚程序，还得明确如何与客户沟通、采取哪些补救措施，以及制定系统性改进的协议，以防止类似问题的发生。
目前，做出商业决策的自主 AI 智能体面临着责任界定的问题，现有的监管环境并不适用于它们。
我们需要和监管机构合作，制定合适的治理结构，明确 AI 智能体的责任，建立全新的法律和合规框架。
展望未来：科学方法与企业创新
要想部署真正有效的 AI 系统，企业高层要有长远眼光，把这些技术进步运用到实际应用中。
企业在 AI 应用上是否成功，不只看部署了多少 AI 智能体，或者实施速度有多快。关键在于企业领导和技术专家的精心规划，让 AI 与现有的工作流程、业务过程以及人类的工作偏好完美融合。
Salesforce 在企业 CRM 领域摸爬滚打多年，经验丰富，很懂业务逻辑优化。我们把这些经验和知识融入到 Agentforce 的部署策略里。系统不仅功能强大，在满足客户业务需求和运营人员需求方面，也做到了可靠又负责。
未来，人类和 AI 不再相互对立，而是携手合作，各展所长。随着 Agentforce 发布，智能体已经成为提升工作效能的强大助力，让团队完成以前办不到的任务。
开始这一转型的时机就是现在，就像每一次突破性实验都始于假设一样，每次成功的 AI 转型也都是从一个愿景开始，到最终验证成真！
参考资料：