开发能够抵御ICS对抗性攻击的边缘弹性机器学习集成

论文标题:《Development of an Edge Resilient ML Ensemble to Tolerate ICS Adversarial Attacks》

作者信息:

  • Likai Yao, NSF Center for Cloud and Autonomic Computing, University of Arizona, Tucson, AZ 85721 USA
  • Qinxuan Shi, School of Electrical Engineering and Computer Science, University of North Dakota, Grand Forks, ND 58202 USA
  • Zhanglong Yang, School of Electrical Engineering and Computer Science, University of North Dakota, Grand Forks, ND 58202 USA
  • Sicong Shao, School of Electrical Engineering and Computer Science, University of North Dakota, Grand Forks, ND 58202 USA
  • Salim Hariri, NSF Center for Cloud and Autonomic Computing, University of Arizona, Tucson, AZ 85721 USA

论文出处:可以在arXiv上找到,DOI为2409.18244v1,日期为2024年9月26日。

主要内容概述:

摘要: 文章提出了一种在工业控制系统(ICS)中部署机器学习(ML)的动态数据驱动应用系统(DDDAS)的方法,以提高安全性。然而,基于ML的DDDAS容易受到对抗性攻击的影响,因为攻击者可以稍微改变输入数据,使ML模型预测出不同的结果。本文的目标是构建一种能够通过执行数据空气间隙转换(DAGT)来匿名化数据特征空间,并使用深度神经网络和随机化用于预测的ML模型,从而设计出能够抵御对抗性攻击的弹性边缘机器学习(reML)架构。reML基于弹性DDDAS范式、移动目标防御(MTD)理论和TinyML,应用于对抗ICS上的对抗性攻击。此外,所提出的方法在功耗效率和隐私保护方面具有优势,因此可以部署在电源受限的设备上以增强ICS的安全性。这种方法通过将计算从计算密集型平台转移到资源受限的边缘设备,实现了边缘的弹性ML推理。TinyML与TensorFlow Lite的结合确保了高效的资源利用,使reML适合在各种工业控制环境中部署。reML的动态性,由弹性DDDAS开发环境促进,允许对新出现的威胁进行持续的适应和改进。最后,作者在ICS数据集上评估了他们的方法,并证明了reML为边缘设备上的弹性ML推理提供了一种可行且有效的解决方案。

1. 引言: 介绍了ICS与更广泛的设备网络集成的快速发展如何显著提高了关键基础设施(如电网、制造工厂和水处理设施)的运营效率,但这也引入了显著的网络安全风险。文章讨论了在ICS中部署ML的潜在好处和挑战,以及如何通过在边缘设备上运行ML推理来减少延迟并提高性能和弹性。

2. 相关工作: 简要介绍了DDDAS和MTD的相关研究。DDDAS通过动态数据反馈控制循环,整合了应用系统的计算和仪表方面。MTD则通过动态改变系统配置来增加攻击者的不确定性和复杂性。

3. 提出的方法: 提出了一种基于MTD、TinyML和DDDAS的reML方法来对抗对抗性攻击。首先,使用弹性DDDAS(rDDDAS)开发环境设计reML,以便在边缘设备上部署和推理。然后,描述了reML的架构。接着,讨论了DAGT的过程。

4. 实验结果: 使用密西西比州立大学和橡树岭国家实验室开发的ICS数据集进行实验,这些数据集实现了电力系统的缩小版本。数据集包括来自电力系统的良性和恶意数据点。使用基于Jacobian的Saliency Map Attack(JSMA)生成对抗性测试样本。实验结果表明,reML在检测和减轻对抗性威胁方面是有效的,同时在资源受限的边缘设备上保持了低延迟和功耗效率的操作。

5. 结论: 本文提出了一种旨在保护工业控制系统(ICS)免受对抗性攻击的弹性边缘机器学习(reML)架构。通过利用DDDAS范式、MTD理论和TinyML框架,reML通过DAGT和模型随机化展示了强大的防御机制。实验结果验证了reML在检测和减轻对抗性威胁方面的有效性,同时在资源受限的边缘设备上保持了低延迟和功耗效率的操作。reML架构的设备上攻击检测和本地ML推理能力显著提高了ICS的安全性,减少了响应时间并保留了数据隐私。

相关推荐
猫先生Mr.Mao6 分钟前
2025年3月AGI技术月评|技术突破重构数字世界底层逻辑
人工智能·aigc·大语言模型·agi·多模态·行业洞察
睿创咨询24 分钟前
科技与商业动态简报
人工智能·科技·ipd·商业
科技在线24 分钟前
科技赋能建筑新未来:中建海龙模块化建筑产品入选中国建筑首批产业化推广产品
大数据·人工智能
HED34 分钟前
用扣子快速手撸人生中第一个AI智能应用!
前端·人工智能
极小狐36 分钟前
极狐GitLab 如何 cherry-pick 变更?
人工智能·git·机器学习·gitlab
沛沛老爹41 分钟前
从线性到非线性:简单聊聊神经网络的常见三大激活函数
人工智能·深度学习·神经网络·激活函数·relu·sigmoid·tanh
0x2111 小时前
[论文阅读]ReAct: Synergizing Reasoning and Acting in Language Models
人工智能·语言模型·自然语言处理
mucheni1 小时前
迅为iTOP-RK3576开发板/核心板6TOPS超强算力NPU适用于ARM PC、边缘计算、个人移动互联网设备及其他多媒体产品
arm开发·人工智能·边缘计算
Jamence1 小时前
多模态大语言模型arxiv论文略读(三十六)
人工智能·语言模型·自然语言处理
猿饵块1 小时前
opencv--图像变换
人工智能·opencv·计算机视觉