Gartner预测2025年关键基础设施的CPS安全：确保机器人、无人机、自动驾驶汽车、人工智能等前沿技术应用和新场景安全

增强人类能力技术、无人机、自动驾驶汽车、人工智能和量子集成资产等技术创新正在推动网络物理系统在所有行业中进入新领域。本报告可帮助安全和风险管理领导者预测并为 CPS 安全的未来做好准备。

主要发现

• 移动专网正成为信息物理系统 (CPS) 自动化工作更具吸引力的选择。这是因为其具有公共网络所不具备的增强网络控制、关键操作的低延迟、室内外用例的覆盖范围以及基于角色、访问权限和位置的安全性，这些都符合组织的独特需求。

• 人工智能Agent引发了与安全、信任、可靠性和道德相关的担忧。如果用于关键基础设施，这些问题将引发社会韧性担忧，政府已开始建立护栏。

• 虽然无人机技术及其相关有效载荷为关键基础设施领域提供了变革潜力，但它们也带来了重大的网络物理风险，将越来越多地引发强制性安全控制。

• 植入式和可穿戴设备最初是为了帮助人们应对残疾或执行艰巨任务而开发的，其用途正在不断增加，从而创建了人联网 (IoH) 生态系统。

• 随着量子计算的进步威胁到当前的加密标准，量子安全加密（也称为后量子密码）变得越来越重要。鉴于这些系统在各个行业中的敏感性和关键功能，这对 CPS 的影响将是深远的。

建议

• 选择适合业务需求的移动专网部署模型，并通过系统集成商、电信运营商、公有云提供商或中立主机来弥补技能差距。

• 采用 Gartner 的 AI 信任、风险和安全管理 (AI TRiSM) 框架来审查代理治理、可信度、公平性、可靠性、稳健性、有效性和数据保护。

• 执行详细的风险和威胁分析（包括威胁建模、漏洞分析和影响评估），以识别无人机操作中的潜在问题。

• 扩大现有的风险评估范围，包括植入和可穿戴设备对人类安全的影响。

• 采取积极主动的战略行动，为量子时代做好准备，进行全面的风险评估，制定量子安全路线图，了解标准，试行解决方案，提高员工能力，实施强有力的事件响应计划

战略规划假设

• 到 2028 年，20% 部署 4G/5G 专网的组织将因设计、部署和运营专业知识不足导致的配置错误而面临网络安全事件。

• 到 2028 年，至少一个 G20 国家的人工智能法规将禁止人工智能Agent直接控制关键基础设施中的 CPS。

• 到2029年，至少有三个G20国家将对关键基础设施中的无人机操作员发布强制性安全控制措施，进一步扩大安全和风险管理领导者的作用。

• 到 2029 年，IoH将被利用来危害人类生命，并且需要为受害者的生存支付第一笔赎金。

• 到2028 年，第一批"量子安全" CPS 将由全球原始设备制造商 (OEM) 销售。

分析

需要知道什么

根据世界经济论坛的《2024 年新兴技术时代网络弹性导航报告》，"200 多项关键和新兴技术正在塑造当今的数字生态系统。"从历史经验来看，这些技术日益复杂且相互关联，显然增加了威胁范围。未来五年，许多此类技术将进入CPS网络物理系统。

网络物理系统 (CPS) 被定义为协调传感、计算、控制、网络和分析以与物理世界（包括人类）交互的工程系统。当它们安全时，它们可以实现安全、实时、可靠、有弹性和适应性强的性能。CPS 是一个总称，涵盖运营技术 (OT)、工业控制系统 (ICS)、工业自动化和控制系统 (IACS)、工业物联网 (IIoT) 或工业 4.0。

--- Gartner

这一趋势在Gartner 的《2024 年数字业务购买驱动因素调查》中得到了明显体现，该调查显示，全球 78% 的服务购买者正在持续努力实现物理-数字融合（见图 1）：

• 20%正在试点或试验融合工作。

• 33% 的企业至少有一项重大举措和/或少数试点。

• 25% 的企业拥有多个成熟的重大举措，可以为创收做出贡献。

• 另外 18% 的努力正在讨论中，并已进入规划阶段。

图 1：物理-数字融合的现状

这 200 多种关键和新兴技术中的任何一种最终都可能影响 CPS 安全，从支持 AI 野心的微核反应堆到分子电子或立体透视显示。本报告重点关注近期新前沿的 CPS 安全影响：

• 4G/5G移动专网：

o 移动专网由特定组织专用，旨在提供比公共蜂窝网络更好的安全性和可靠性。PMN产品包括语音、视频、消息和宽带数据，以及针对各种用例的特定关键通信功能，例如单独工作者保护 (LWP)、蜂窝一键通 (PTToC)、人工智能/机器学习 (ML) 和传感器。

• 无人机：

o 无人机（正式名称为无人驾驶飞行器 (UAV) 或无人驾驶飞机系统 [UAS]）是无人驾驶飞机。它们是飞行机器人，可以远程控制或使用软件控制的飞行计划自主飞行。

• AI Agent：

o AI Agent是自主或半自主的软件实体，它们使用 AI 技术在数字或物理环境中感知、做出决策、采取行动并实现目标。AI Agent旨在与其环境动态交互以实现目标。它们通过传感器接收输入并通过工具/执行器采取行动。

• 人类增强系统，例如生物增强或双向脑机接口（BBMI ）：

o BBMI是一种神经接口，可实现人脑与计算机或机器之间的双向（读取大脑和改变大脑）或单向（只读）通信。它们不仅可以监测用户的脑电图 (EEG) 和精神状态，还可以允许采取一些行动，根据分析和见解来修改大脑状态。

• 后量子密码学：

o 后量子密码学，也称为量子安全加密，是一组旨在抵御传统和量子计算攻击的算法。PQC 将取代现有的非对称加密，后者将在未来十年内被破解，从而取代现有的传统加密方法和流程。

这些前沿技术推动了非线性技术的演进，其中网络世界和数字世界通过各种通信渠道、计算模型、传感器、算法和分析以新颖的方式结合在一起。

但这些创新也会带来许多安全风险，而这些风险很少有组织进行跟踪，更不用说纳入当今的安全计划了。例如：

• 安全团队现在应该投资哪些技能提升，以应对移动专网等新通信模式？

• 需要建立哪些护栏来防止人工智能Agent以不可预见的方式执行关键基础设施操作？

• 随着无人机使用的普及，组织应该遵循哪些预防措施和防御对策？

• 如果医疗植入物成为勒索软件团伙的目标会发生什么？

• 一旦量子计算机能够破解当前的密码技术，价值数百万美元的 CPS 工业资产是否会成为潜在的网络攻击受害者？还是我们会看到"先收获，后解密"的攻击？

战略规划假设

**战略规划假设：**到 2028 年，20% 部署 4G/5G 移动专网(PMN) 的组织将因设计、部署和运营专业知识不足而面临网络安全事件，导致这些网络的复杂服务配置错误。

主要发现：

• 数字化转型已成为推动企业采用 4G/5G 移动专网的关键力量。接受这一转变使企业能够增强连接和通信能力，同时优化业务运营，最终带来更大的创新和竞争优势。

• 由于缺乏设计、部署和运营移动专网所需的专业知识，组织面临挑战，并将依靠托管服务提供商和运营商来提供这些服务的初步支持。

• 第三代合作伙伴计划 (3GPP) 为5G专网开发了先进的概念，可以极大地满足组织的无线网络需求。这些创新包括针对特定组织需求的角色、访问级别和位置要求量身定制的安全框架。然而，组织需要进一步定制其部署以符合其独特的安全要求，确保全面保护并遵守行业标准。

• 活跃用例示例：

o 5G 可以传输 CPS协议，使可编程逻辑控制器能够直接通信。例如，这使得自主移动机器人 (AMR) 能够在更大的区域内移动，错误更少，并且能够与其他系统协同工作。

o 现有的校园Wi-Fi网络受益于覆盖范围和集成度的提高，以及带宽和安全性的保证。

市场影响：

随着组织采用这种新兴技术，他们将需要采用电信领域常见的技能。因此，解决方案提供商越来越需要提供托管服务或网络即服务，以解决组织内部的技能差距并实现未来的共同管理能力。这些产品应提供标准 5G 网络中没有的额外安全功能，例如：

• SIM交换保护

• 集成支持现有的安全技术堆栈，例如防火墙和安全信息和事件管理 (SIEM)

• 设备姿态管理

• 微分段增强网络切片

• 不同供应商的网络功能之间的集成

建议：

• 通过以下方式减轻因组织缺乏 PMN 知识而导致的风险：

o 使用来自 PMN 提供商的托管服务并验证他们的安全经验。

o 优先投资教育和培训，以提高运营、IT 和网络安全团队的技能。

o 组建一支跨职能治理团队，专门制定 PMN 使用的政策和流程。例如，组织应制定标准和流程来审查 4G/5G 设备，其中包括物料清单。

• 在PMN架构和设计阶段开始时引入安全。

• 选择适合业务需求的部署模型，并通过系统集成商、电信运营商、公有云提供商或中立实体弥补技能差距。 部署模型的示例包括：

o 专有独立/隔离

o 公共托管多租户

o 与共享无线接入网络 (RAN) 混合

o 与托管控制平面混合

**战略规划假设：**到 2028 年，至少一个 G20 国家的人工智能法规将禁止AI Agent直接控制关键基础设施中的 CPS。

主要发现：

• AI Agent是自主或半自主的软件实体，它们使用 AI 技术来感知和与环境交互、做出决策、采取行动并在数字或物理空间中实现目标。为这些 CPS 提供支持的 AI Agent的适当自主程度已成为人们关注和讨论的话题。

• 在私营企业市场层面和国家地缘政治层面的竞争压力的推动下，人工智能在 CPS 环境中的部署正在迅速增加。示例包括：

o 亚马逊占地三百万平方英尺的配送中心内，人工智能机械臂大军"在所有关键生产区域"忙碌着。

o 美国等国家正在建立和资助机构，利用人工智能来提高制造业的弹性。

o 微软的系统广泛部署在 CPS 环境中，并在 Copilot 中率先引入了 AI Agent。

• 人工智能驱动的 CPS 的这些进步也可能会在关键基础设施环境中得到广泛应用，以自动执行以前在严酷、孤立和不安全的环境中或人员难以胜任的职业中由人类完成或监督的任务。

• 世界各国政府已实施或提议以各种形式立法，以规范人工智能的使用和扩散。此类立法旨在加强人工智能部署的信任、弹性、安全性、透明度和问责制。

市场影响：

AI Agent有望提高运营效率并降低成本。例如，在能源领域，人工智能增强型智能电网可以减少能源浪费并动态平衡供需。

然而，随着 CPS 开始融入 AI 功能（包括 AI Agent），人们开始担心以下问题：

• 安全性：由于 CPS 与物理定律适用的物理世界相互作用，因此如果 CPS 受到损害，人类健康和安全可能会受到威胁。人工智能系统可能容易受到对抗性攻击，包括操纵输入数据以欺骗人工智能模型。在上述智能电网示例中，对抗性攻击可能导致负载预测错误，从而造成停电或设备损坏。

• 信任：人工智能增强系统的可信度取决于透明度和责任感。利益相关者需要了解人工智能决策是如何做出的，而AI Agent做出的自主决策可能会妨碍诊断和纠正错误的能力，从而导致潜在的安全风险。

• 可靠性、稳健性和弹性：CPS 的本质及其通常部署的环境意味着几乎没有出错的余地。如果出现问题，需要立即安全地检测并补救。这些系统必须在各种条件下正常运行，并具有故障恢复能力。然而，人工智能模型有时会表现得不可预测，尤其是在暴露于不属于其训练数据的场景时。

• 道德：关键基础设施的存在是为了满足公民的需求，这意味着必须尊重数据隐私、偏见和公平等问题。人工智能算法中的潜在偏见也可能导致不公平或歧视性的结果，这对于医疗保健和执法等领域使用的 CPS 尤其令人担忧。

由于AI Agent是自主或半自主的，因此在规避风险的 CPS 关键基础设施环境中，人们将采取极其谨慎的态度。政府将制定法规，限制此类代理对 CPS 管理的物理系统控制的控制程度。这将影响供应商在此类系统中可以提供什么，以及是否需要支持人工参与或其他安全控制。

建议：

• 在考虑使用AI Agent时，与商业领袖合作，优先建立明确的流程护栏------包括围绕自主权、责任、强大的安全措施和数据隐私协议的法律和道德准则。

• 采用 Gartner 的 AI 信任、风险和安全管理 (AI TRiSM) 框架来审查代理治理、可信度、公平性、可靠性、稳健性、有效性和数据保护。

• 在部署带有AI Agent的 CPS 之前，了解相关地理区域的人工智能法规（包括现行法规和计划中的法规）。这些法规可能会指定需要操作员负责的控制措施（例如，人员参与）。

• 更新采购流程，以审查在其产品中包含AI Agent的 CPS 供应商。确保这些产品提供围绕 AI 功能的安全控制。

• 为现有 CPS 基础设施的更新做好准备，因为这些基础设施可能会受到要求控制 AI 功能的新法规的影响。

**战略规划假设：**到2029年，至少三个G20国家将对关键基础设施中的无人机操作员发布强制性安全控制措施，进一步扩大安全和风险管理领导者的作用。

主要发现：

• 无人机技术融入关键基础设施领域具有诸多优势，包括增强监控、检查能力和运营效率。然而，这种整合也带来了一系列网络物理风险，必须精心管理这些风险才能保护关键基础设施。

• 关键基础设施附近无人机入侵事件频发，美国联邦航空管理局 (FAA) 每月在机场附近收到超过 100 次入侵报告，英国希思罗机场的无人机入侵事件引发了重大安全担忧。

• 越来越多的研究表明，无人机将带来越来越大的网络安全风险，因为它们可以携带有效载荷（数字和物理）、提取信息并被用作窃听和拍摄设备。

• 各种国家级法律正在出台，例如 2024 年至 2028 年的《联邦航空管理局重新授权法案》，其中包括与关键基础设施附近无人机操作相关的安全规定。包括阿肯色州、亚利桑那州、特拉华州、佛罗里达州、路易斯安那州、内华达州、俄克拉荷马州、俄勒冈州、田纳西州和德克萨斯州在内的一些美国州对关键基础设施附近无人机的进入有所限制。

近期标志：

• 俄罗斯等国的无人机飞越北约国家核设施的事件屡见不鲜，或来历不明的无人机蜂拥至高度敏感的军事基地。

• 反无人机市场持续增长。

• 佐治亚理工学院的 CPS 安全项目等更多研究生项目专注于无人机，学生使用"人工智能软件在无人机飞行过程中恢复并充当代理控制器，抵御 GPS 欺骗网络攻击。"

市场影响：

关键基础设施领域无人机操作的强制性安全控制可能重点关注以下方面：

• 防止数据泄露和未经授权访问大量敏感数据，包括地理空间信息、运营指标和基础设施状况。

• 保护无人机免受信号干扰和欺骗，因为它们依赖 GPS 和其他通信信号进行导航和数据传输。干扰或欺骗攻击可能导致无人机失控或误向/重定向到非预期位置，对关键基础设施构成严重风险。

• 预防和恢复恶意软件和勒索软件攻击，这些攻击可能会扰乱运营并导致严重停机。例如，在水务部门用于管道检查的无人机遭受勒索软件攻击可能会延误关键维护，并有污染供水的风险。

• 由于商用无人机的普及，检测未经授权的无人机操作的努力。此类活动可能导致物理损坏、间谍活动甚至恐怖袭击。

• 避免碰撞和干扰，因为无人机在关键基础设施附近飞行可能会造成碰撞和物理损坏。例如，在电信领域，无人机与蜂窝塔相撞可能会中断通信服务，影响应急响应和公共安全。

不断增长的需求可能会刺激更多创新和初创企业的涌现。

建议：

• 密切关注监管发展并与行业机构合作，例如美国的联邦航空管理局和国土安全部（DHS）或欧洲的欧洲航空安全局（EASA）。

• 执行详细的生命周期风险评估（包括威胁建模、漏洞分析和影响评估），以识别无人机操作中的潜在问题。

• 为了确保无人机操作的安全：

o 实施网络安全措施，包括加密、多因素身份验证和定期安全审计，以降低数据泄露和未经授权访问的风险。

o 确保所有无人机软件（包括固件和控制应用程序）定期更新以解决漏洞。

• 为防止无人机入侵：

o 部署检测系统，例如雷达和射频 (RF) 传感器，以帮助识别和减轻未经授权的无人机活动。

o 制定快速响应协议，以最大限度地减少潜在威胁的影响。

o 评估不断增长的反无人机技术市场。

**战略规划假设：**到 2029 年，IoH将被用来危害人类生命，并且将为受害者的生存支付第一笔赎金。

主要发现：

• 植入式心脏装置、胰岛素泵和其他医疗设备已经是常见商品，但人类将越来越多地与第三方硬件和软件解决方案相连。最初这主要针对残疾人，但某个时候任何人都可以决定放弃手持遥控设备，转而用大脑控制设备。

• 同样，组织机构将部署自动化可穿戴设备，帮助人们在仓库、工厂和建筑工地搬运重物或克服身体残疾。例如，它们将使残疾退伍军人摆脱轮椅，重新独立行走。

• BBMI 和可穿戴外骨骼都需要外部连接。例如，BBMI 可用于驾驶智能车辆，而可穿戴外骨骼可接收有关负载重量的实时信息或有关穿戴者应采取的路线的信息。这就是所谓的 IoH。

• 这些外部连接有时会被攻击者利用，要求支付赎金，让这些设备的所有者重新控制自己的大脑或身体运动。如果不支付赎金，攻击者可能会使用 BBMI 造成脑损伤，或让外骨骼将用户带入危险或致命的境地。

市场影响：

• IoH 设备和其他 CPS的制造商需要调整其产品和营销策略以适应这些新发展及其伴随的安全影响。

• 安全供应商需要扩展其产品的范围，以包括BBMI、可穿戴外骨骼等IoH功能以及其他 CPS。

• 买家（如保险公司）在选择该领域的产品或供应商时，需要考虑非功能性需求，如安全性和防范勒索软件和其他威胁。

• 使用 BBMI 或智能外骨骼等解决方案的人类需要充分意识到安全事件对其生活的影响。针对 BBMI 的勒索软件攻击可能会造成致命后果。

• 虽然 BBMI 和智能外骨骼在军事等行业提供了充足的机会，但政府监管机构需要确保采取足够的保护措施，防止这些功能被滥用，以保护用户及其环境。欧盟NIS2 指令或美国FDA医疗法规等现有法规需要扩展以涵盖这些新风险。

建议：

• 要求设备制造商在开发 BBMI 和可穿戴外骨骼等系统时从一开始就考虑安全性。

• 要求设备制造商向医疗保健提供商提供软件物料清单（SBOM），以降低第三方风险。

• 扩展现有的风险评估，将组织中部署这些解决方案时的 IoH 的（安全）影响纳入其中。

• 建立或扩展现有的安全标准，以涵盖 IoH 攻击的影响。

**战略规划假设：**到2028 年，第一批"量子安全" CPS 将由全球原始设备制造商 ( OEM )销售。

主要发现：

• 生产和任务关键型环境中的 CPS 是资产密集型公司创造价值的中心。无论是在关键基础设施还是制造业，生产商品和公用事业服务（如电力或水）的组织都需要保护与从配方到专有流程等所有事物相关的知识产权。这些知识产权目前受到传统安全协议的保护。

• 量子计算研究正在迅速发展，随着强大的量子计算机开始部署，它们可能会破坏世界上一些最广泛使用的安全协议。量子安全加密是量子计算时代保护敏感数据、访问和通信的一种方式。

• CPS OEM正在通过投资各种计划做好准备。示例包括：

o 西门子高管 Andreas Kind 博士将公司的工作描述为"确保未来数据和系统的机密性、完整性和可用性。在这项工作中，我们专注于测试在工业环境中使用新的量子安全加密方案的可行性，并制定迁移策略。"

o 霍尼韦尔宣布，公司"着眼于未来，为将我们自己的量子技术融入为客户提供的解决方案和产品中奠定基础"。

o Thales正在投资加密敏捷设计，为后量子世界做好准备，其他许多公司也是如此。

近期标志：

• 2024 年美国国家标准与技术研究所 ( NIST ) 发布后量子加密标准。

• 最终用户对于加密敏捷性设计的 CPS 的要求不断增加。

• 针对关键基础设施的后量子加密的新兴国家要求，其中 CPS 盛行。

市场影响：

量子安全加密（也称为后量子密码[ PQC）正变得越来越重要，因为量子计算的进步有可能破坏当前的加密标准。鉴于这些系统在医疗保健、能源、交通和制造业等各个行业的敏感性和关键功能，这对 CPS 的影响是深远的。市场影响将包括：

• 监管合规性和标准：随着量子计算能力的进步，监管机构可能会强制采用量子安全加密标准，特别是对于与国家关键基础设施相关的组织。遵守这些标准将影响采购决策和合作伙伴关系。

• 市场差异化和竞争优势：采用量子安全加密可以为在严重依赖 CPS 的行业运营的公司带来竞争优势。例如，在医疗保健领域，确保医疗设备和患者数据的安全可以增强信任和可靠性。

• 运营和实施挑战：过渡到量子安全加密并非没有挑战。CPS 通常具有较长的生命周期，并且与关键基础设施深度集成。用新的加密算法改造这些系统可能很复杂且成本高昂。需要做出 R OI决策来决定改造什么和替换什么。无论哪种方式，组织都需要投资培训、系统升级和可能的新硬件来支持量子安全加密。

建议：

• 进行风险评估，以确定哪些系统和数据最容易受到量子计算威胁。这包括清点所有 CPS 并评估当前使用的加密方法及其对量子攻击的敏感性。

• 制定向量子安全加密过渡的量子安全路线图，包括时间表、支持过渡的资源分配和利益相关者参与策略。

• 随时了解最新信息并与 NIST 和欧洲电信标准协会 (ETSI) 等标准机构保持联系。

• 更新OEM 的 CPS 采购要求，并在全面部署之前在受控环境中强制测试量子安全解决方案。

• 通过提供培训和评估是否需要聘用专家来提高劳动力的能力。