开发能够抵御ICS对抗性攻击的边缘弹性机器学习集成

论文标题:《Development of an Edge Resilient ML Ensemble to Tolerate ICS Adversarial Attacks》

作者信息:

  • Likai Yao, NSF Center for Cloud and Autonomic Computing, University of Arizona, Tucson, AZ 85721 USA
  • Qinxuan Shi, School of Electrical Engineering and Computer Science, University of North Dakota, Grand Forks, ND 58202 USA
  • Zhanglong Yang, School of Electrical Engineering and Computer Science, University of North Dakota, Grand Forks, ND 58202 USA
  • Sicong Shao, School of Electrical Engineering and Computer Science, University of North Dakota, Grand Forks, ND 58202 USA
  • Salim Hariri, NSF Center for Cloud and Autonomic Computing, University of Arizona, Tucson, AZ 85721 USA

论文出处:可以在arXiv上找到,DOI为2409.18244v1,日期为2024年9月26日。

主要内容概述:

摘要: 文章提出了一种在工业控制系统(ICS)中部署机器学习(ML)的动态数据驱动应用系统(DDDAS)的方法,以提高安全性。然而,基于ML的DDDAS容易受到对抗性攻击的影响,因为攻击者可以稍微改变输入数据,使ML模型预测出不同的结果。本文的目标是构建一种能够通过执行数据空气间隙转换(DAGT)来匿名化数据特征空间,并使用深度神经网络和随机化用于预测的ML模型,从而设计出能够抵御对抗性攻击的弹性边缘机器学习(reML)架构。reML基于弹性DDDAS范式、移动目标防御(MTD)理论和TinyML,应用于对抗ICS上的对抗性攻击。此外,所提出的方法在功耗效率和隐私保护方面具有优势,因此可以部署在电源受限的设备上以增强ICS的安全性。这种方法通过将计算从计算密集型平台转移到资源受限的边缘设备,实现了边缘的弹性ML推理。TinyML与TensorFlow Lite的结合确保了高效的资源利用,使reML适合在各种工业控制环境中部署。reML的动态性,由弹性DDDAS开发环境促进,允许对新出现的威胁进行持续的适应和改进。最后,作者在ICS数据集上评估了他们的方法,并证明了reML为边缘设备上的弹性ML推理提供了一种可行且有效的解决方案。

1. 引言: 介绍了ICS与更广泛的设备网络集成的快速发展如何显著提高了关键基础设施(如电网、制造工厂和水处理设施)的运营效率,但这也引入了显著的网络安全风险。文章讨论了在ICS中部署ML的潜在好处和挑战,以及如何通过在边缘设备上运行ML推理来减少延迟并提高性能和弹性。

2. 相关工作: 简要介绍了DDDAS和MTD的相关研究。DDDAS通过动态数据反馈控制循环,整合了应用系统的计算和仪表方面。MTD则通过动态改变系统配置来增加攻击者的不确定性和复杂性。

3. 提出的方法: 提出了一种基于MTD、TinyML和DDDAS的reML方法来对抗对抗性攻击。首先,使用弹性DDDAS(rDDDAS)开发环境设计reML,以便在边缘设备上部署和推理。然后,描述了reML的架构。接着,讨论了DAGT的过程。

4. 实验结果: 使用密西西比州立大学和橡树岭国家实验室开发的ICS数据集进行实验,这些数据集实现了电力系统的缩小版本。数据集包括来自电力系统的良性和恶意数据点。使用基于Jacobian的Saliency Map Attack(JSMA)生成对抗性测试样本。实验结果表明,reML在检测和减轻对抗性威胁方面是有效的,同时在资源受限的边缘设备上保持了低延迟和功耗效率的操作。

5. 结论: 本文提出了一种旨在保护工业控制系统(ICS)免受对抗性攻击的弹性边缘机器学习(reML)架构。通过利用DDDAS范式、MTD理论和TinyML框架,reML通过DAGT和模型随机化展示了强大的防御机制。实验结果验证了reML在检测和减轻对抗性威胁方面的有效性,同时在资源受限的边缘设备上保持了低延迟和功耗效率的操作。reML架构的设备上攻击检测和本地ML推理能力显著提高了ICS的安全性,减少了响应时间并保留了数据隐私。

相关推荐
后端小肥肠8 分钟前
躺赚必备!RPA+Coze+豆包:公众号自动发文,AI率0%亲测有效(附AI率0%提示词)
人工智能·aigc·coze
摘星编程20 分钟前
CloudBase AI ToolKit实战:从0到1开发一个智能医疗网站
人工智能·腾讯云·ai代码远征季#h5应用·ai医疗应用·cloudbase开发
锅挤25 分钟前
深度学习5(深层神经网络 + 参数和超参数)
人工智能·深度学习·神经网络
一支烟一朵花29 分钟前
630,百度文心大模型4.5系列开源!真香
人工智能·百度·开源·文心一言
网安INF31 分钟前
深层神经网络:原理与传播机制详解
人工智能·深度学习·神经网络·机器学习
AIbase20241 小时前
国内MCP服务平台推荐!aibase.cn上线MCP服务器集合平台
运维·服务器·人工智能
喜欢吃豆2 小时前
快速手搓一个MCP服务指南(九): FastMCP 服务器组合技术:构建模块化AI应用的终极方案
服务器·人工智能·python·深度学习·大模型·github·fastmcp
星融元asterfusion2 小时前
基于路径质量的AI负载均衡异常路径检测与恢复策略
人工智能·负载均衡·异常路径
zskj_zhyl2 小时前
智慧养老丨从依赖式养老到自主式养老:如何重构晚年生活新范式
大数据·人工智能·物联网