开发能够抵御ICS对抗性攻击的边缘弹性机器学习集成

论文标题:《Development of an Edge Resilient ML Ensemble to Tolerate ICS Adversarial Attacks》

作者信息:

  • Likai Yao, NSF Center for Cloud and Autonomic Computing, University of Arizona, Tucson, AZ 85721 USA
  • Qinxuan Shi, School of Electrical Engineering and Computer Science, University of North Dakota, Grand Forks, ND 58202 USA
  • Zhanglong Yang, School of Electrical Engineering and Computer Science, University of North Dakota, Grand Forks, ND 58202 USA
  • Sicong Shao, School of Electrical Engineering and Computer Science, University of North Dakota, Grand Forks, ND 58202 USA
  • Salim Hariri, NSF Center for Cloud and Autonomic Computing, University of Arizona, Tucson, AZ 85721 USA

论文出处:可以在arXiv上找到,DOI为2409.18244v1,日期为2024年9月26日。

主要内容概述:

摘要: 文章提出了一种在工业控制系统(ICS)中部署机器学习(ML)的动态数据驱动应用系统(DDDAS)的方法,以提高安全性。然而,基于ML的DDDAS容易受到对抗性攻击的影响,因为攻击者可以稍微改变输入数据,使ML模型预测出不同的结果。本文的目标是构建一种能够通过执行数据空气间隙转换(DAGT)来匿名化数据特征空间,并使用深度神经网络和随机化用于预测的ML模型,从而设计出能够抵御对抗性攻击的弹性边缘机器学习(reML)架构。reML基于弹性DDDAS范式、移动目标防御(MTD)理论和TinyML,应用于对抗ICS上的对抗性攻击。此外,所提出的方法在功耗效率和隐私保护方面具有优势,因此可以部署在电源受限的设备上以增强ICS的安全性。这种方法通过将计算从计算密集型平台转移到资源受限的边缘设备,实现了边缘的弹性ML推理。TinyML与TensorFlow Lite的结合确保了高效的资源利用,使reML适合在各种工业控制环境中部署。reML的动态性,由弹性DDDAS开发环境促进,允许对新出现的威胁进行持续的适应和改进。最后,作者在ICS数据集上评估了他们的方法,并证明了reML为边缘设备上的弹性ML推理提供了一种可行且有效的解决方案。

1. 引言: 介绍了ICS与更广泛的设备网络集成的快速发展如何显著提高了关键基础设施(如电网、制造工厂和水处理设施)的运营效率,但这也引入了显著的网络安全风险。文章讨论了在ICS中部署ML的潜在好处和挑战,以及如何通过在边缘设备上运行ML推理来减少延迟并提高性能和弹性。

2. 相关工作: 简要介绍了DDDAS和MTD的相关研究。DDDAS通过动态数据反馈控制循环,整合了应用系统的计算和仪表方面。MTD则通过动态改变系统配置来增加攻击者的不确定性和复杂性。

3. 提出的方法: 提出了一种基于MTD、TinyML和DDDAS的reML方法来对抗对抗性攻击。首先,使用弹性DDDAS(rDDDAS)开发环境设计reML,以便在边缘设备上部署和推理。然后,描述了reML的架构。接着,讨论了DAGT的过程。

4. 实验结果: 使用密西西比州立大学和橡树岭国家实验室开发的ICS数据集进行实验,这些数据集实现了电力系统的缩小版本。数据集包括来自电力系统的良性和恶意数据点。使用基于Jacobian的Saliency Map Attack(JSMA)生成对抗性测试样本。实验结果表明,reML在检测和减轻对抗性威胁方面是有效的,同时在资源受限的边缘设备上保持了低延迟和功耗效率的操作。

5. 结论: 本文提出了一种旨在保护工业控制系统(ICS)免受对抗性攻击的弹性边缘机器学习(reML)架构。通过利用DDDAS范式、MTD理论和TinyML框架,reML通过DAGT和模型随机化展示了强大的防御机制。实验结果验证了reML在检测和减轻对抗性威胁方面的有效性,同时在资源受限的边缘设备上保持了低延迟和功耗效率的操作。reML架构的设备上攻击检测和本地ML推理能力显著提高了ICS的安全性,减少了响应时间并保留了数据隐私。

相关推荐
巷9554 分钟前
OpenCV图像形态学:原理、操作与应用详解
人工智能·opencv·计算机视觉
深蓝易网33 分钟前
为什么制造企业需要用MES管理系统升级改造车间
大数据·运维·人工智能·制造·devops
xiangzhihong841 分钟前
Amodal3R ,南洋理工推出的 3D 生成模型
人工智能·深度学习·计算机视觉
狂奔solar1 小时前
diffusion-vas 提升遮挡区域的分割精度
人工智能·深度学习
资源大全免费分享1 小时前
MacOS 的 AI Agent 新星,本地沙盒驱动,解锁 macOS 操作新体验!
人工智能·macos·策略模式
跳跳糖炒酸奶1 小时前
第四章、Isaacsim在GUI中构建机器人(2):组装一个简单的机器人
人工智能·python·算法·ubuntu·机器人
AI.NET 极客圈2 小时前
AI与.NET技术实操系列(四):使用 Semantic Kernel 和 DeepSeek 构建AI应用
人工智能·.net
Debroon2 小时前
应华为 AI 医疗军团之战,各方动态和反应
人工智能·华为
俊哥V2 小时前
阿里通义千问发布全模态开源大模型Qwen2.5-Omni-7B
人工智能·ai
果冻人工智能2 小时前
每一条广告都只为你而生: 用 人工智能 颠覆广告行业的下一步
人工智能