作者：来自 Elastic Karen Mcdermott
随着自主 AI 重塑网络风险，金融机构需要具备可视性和上下文，才能检测异常行为并以机器速度做出响应。
AI agent 正在改变的不只是金融服务公司的运营方式，也在改变网络风险的速度和规模。
近期 American Banker 的一篇文章探讨了银行面临的一项新兴担忧：由 AI agent 组成的协同行动群体能够探测系统、共享信息、调整自身行为，并同时寻找漏洞。虽然 "失控的 AI agent 群集" 这一概念听起来很未来主义，但其背后的安全挑战已经开始显现。
下一个安全挑战：Agentic AI
几十年来，银行一直在围绕关键系统和数据构建多层防护。身份和访问管理、多重身份验证、欺诈检测、终端安全、网络监控，以及日益复杂的安全运营体系，使金融服务业成为全球安全意识最强的行业之一。
Agentic AI 引入了一个不同的变量：机器速度下的自主性。
攻击者不再需要手动逐个探测系统，自主 agent 可以同时探索多条路径，从所遇到的情况中学习，并调整自身行为。对于防御方而言，挑战在于足够快速地识别数千甚至数百万个信号中的模式，从而了解正在发生什么，并判断这是否构成威胁。
这使可视性和上下文成为安全体系的核心。
AI 驱动的活动可以在应用程序、API、身份、终端、网络、云环境、客户交互和第三方系统中产生信号。单独来看，其中许多事件可能完全合法。一个有效凭证被使用。一个经过授权的 API 被调用。一个获准访问的系统被访问。只有将这些活动关联起来，潜在的危险模式才会显现出来。
这正是碎片化的安全数据和运营数据会成为负担的地方。安全团队需要汇集日志、指标、追踪、安全事件、威胁情报、身份信息和历史活动，以便识别那些原本可能隐藏不见的关联。
AI 防御 AI 攻击
搜索在实现这一目标的过程中发挥着重要作用。当活动分散在不同系统中，并以机器速度发生时，分析人员需要足够快速地搜索和关联海量异构数据，从而不仅了解是否发生了异常情况，还要了解其周围还发生了什么、涉及哪些系统，以及这些事件之间如何关联。
Agentic AI 的发展也扩大了可观测性的作用。金融服务公司越来越需要了解的不仅是应用程序和基础设施的健康状况与性能，还包括 AI agent 自身的行为。
无论 agent 属于银行、客户、第三方，还是潜在的攻击者，了解 agent 访问了哪些系统、调用了哪些工具、检索了哪些数据、调用了哪些 API，以及其行为如何随时间发生变化，都变得十分重要。
基于 OpenTelemetry 的追踪、日志和指标可以提供 agent 活动的详细记录。当这些遥测数据能够与身份、终端、网络、应用程序和威胁情报数据进行关联时，安全团队就能获得所需的上下文，从而区分正常的自动化活动与值得进一步调查的行为。
这种区分将变得越来越重要，因为仅依靠传统安全控制可能无法呈现完整情况。身份、身份验证、最小权限、分段、速率限制和访问控制仍然是基础，但自主系统可能在不违反任何单项控制的情况下表现出异常行为。
一个账户可能访问一个不熟悉的系统。一个 agent 可能开始以异常速率查询信息，或者发起一系列原本都被允许、但组合起来却出乎意料的操作。单个事件未必表明发生了攻击。真正重要的是其中的模式。
检测这些模式需要跨系统并随时间分析行为。AI 和 机器学习 可以帮助防御人员发现异常、关联看似无关的事件、确定调查优先级，并为分析人员提供所需的上下文，从而更快地做出响应。
面向机器速度调查，持续演进 SOC
发生变化的还有安全运营中心（SOC）的角色。攻击者不需要人类分析人员批准每一次自动化探测，而银行也不可能要求人员手动调查每一次可疑的机器生成交互。
安全运营将越来越多地把人工判断与自动化调查和响应结合起来。Agentic security 可以帮助调查告警、关联海量安全和运营数据中的证据、重建攻击路径，并根据组织的策略推荐或启动响应工作流。
然而，对于金融机构而言，更高程度的自动化不能以牺牲治理为代价。具有重大影响的操作仍然需要明确定义的权限、控制措施以及适当的人工监督。目标不是将人员排除在安全运营之外，而是利用自动化处理调查的速度和规模，同时让人员对最重要的决策承担责任。
这种责任同样延伸到银行自身的 AI agent。
自主系统中的治理与透明度
随着金融机构部署越来越多的自主系统，它们需要能够重建这些系统执行过的操作：agent 调用了哪些工具、访问了哪些数据、使用了哪些信息、建议或执行了哪些操作，以及在必要时，是谁授权了这些操作。
这一点尤其重要，因为金融行业本身已经受到网络安全、运营韧性、数据治理、模型风险和责任制等方面的大量要求约束。Agent 可观测性和全面的审计追踪可以让自主活动成为技术、安全、风险和合规团队能够检查和调查的对象，而不是一个只能被要求信任的黑盒。
Agentic AI 的出现并不会让数十年来的网络安全投入变得过时。它反而提高了将这些投入连接起来的重要性。
身份、终端保护、网络安全、应用程序安全、欺诈检测和可观测性各自提供了整体情况的一部分。随着自主系统越来越多地跨越这些边界运行，金融机构需要一个通用的数据基础，能够汇集这些信号，并让它们可以实时搜索和采取行动。
在统一数据平台上汇集一切
在我看来，Elastic 在这一领域的独特之处在于，我们如何在一个通用平台上将安全、可观测性和搜索结合起来，帮助企业分析复杂技术环境中的活动，并将 AI 应用于这些上下文。这为金融服务公司提供了一个基础，用于理解人类和机器的活动，因为 AI agent 正日益成为金融服务生态系统的重要 组成部分 。
银行业下一阶段的 AI 发展，不会只是关注 agent 能做什么，还将关注金融服务公司能否看到它们正在做什么、理解它们的行为、识别行为何时发生变化，并以与自主系统运行相同的速度做出响应。
在 agentic 世界中，可视性和上下文成为控制体系的重要组成部分。
了解更多
联系我们，了解更多关于 Elastic 如何支持你的 AI agent 群集防御系统的信息。
相关文章
本文所述任何功能或特性的发布及其时间安排均由 Elastic 自行决定。任何目前尚未提供的功能或特性都可能无法按时交付，甚至可能不会交付。
在本文中，我们可能使用或引用了第三方生成式 AI 工具，这些工具由各自的所有者拥有和运营。Elastic 无法控制这些第三方工具，也不对其内容、运行或使用承担任何责任，也不对因你使用此类工具而可能产生的任何损失或损害承担责任。使用 AI 工具处理个人、敏感或机密信息时，请务必谨慎。你提交的任何数据都可能被用于 AI 训练或其他用途。无法保证你提供的信息会得到安全或保密的保存。在使用任何生成式 AI 工具之前，你应当了解其隐私惯例和使用条款。
Elastic、Elasticsearch 及相关标志是 Elasticsearch B.V. 在美国及其他国家/地区的商标、徽标或注册商标。所有其他公司和产品名称均为其各自所有者的商标、徽标或注册商标。
原文：AI agents and banking cybersecurity: Why visibility matters | Elastic Blog