国土安全部发布关键基础设施安全人工智能框架

美国国土安全部 (DHS) 发布建议,概述如何在关键基础设施中安全开发和部署人工智能 (AI)。

复制代码
https://www.dhs.gov/news/2024/11/14/groundbreaking-framework-safe-and-secure-deployment-ai-critical-infrastructure

关键基础设施中人工智能的角色和职责框架

复制代码
https://www.dhs.gov/sites/default/files/2024-11/24_1114_dhs_ai-roles-and-responsibilities-framework-508.pdf

这些建议适用于 AI 供应链中的所有参与者,从云和计算基础设施提供商到 AI 开发人员,再到关键基础设施所有者和运营商。

还提供了针对民间社会和公共部门组织的建议。

"关键基础设施人工智能角色和职责框架"中的自愿建议涵盖五个关键领域中的各个角色:

保护环境、推动负责任的模型和系统设计、实施数据治理、确保安全部署以及监控性能和影响。

此外,还提出了技术和流程建议,以增强人工智能系统的安全性、可靠性和可信度。

国土安全部在新闻稿中表示,人工智能已经被用于各个领域的恢复力和风险缓解,例如用于地震检测、稳定电网和邮件分类的人工智能应用。

该框架考虑了每个角色的职责:

云和计算基础设施提供商需要审查其硬件和软件供应链,实施强大的访问管理,并保护为 AI 系统提供支持的数据中心的物理安全。该框架还提出了支持下游客户和流程的建议,即通过监控异常活动并建立明确的流程来报告可疑和有害活动。
*

人工智能开发人员应采用安全的设计方法,评估人工智能模型的危险能力,并"确保模型与以人为本的价值观保持一致"。该框架进一步鼓励人工智能开发人员实施强有力的隐私保护措施;进行评估,以测试可能的偏见、故障模式和漏洞;并支持对对关键基础设施系统及其消费者构成更大风险的模型进行独立评估。
*

关键基础设施所有者和运营商应安全地部署人工智能系统,包括保持强大的网络安全实践以应对与人工智能相关的风险,在微调人工智能产品时保护客户数据,并在使用人工智能向公众提供商品、服务或福利方面提供有意义的透明度。
*

参与人工智能安全问题的民间社会,包括大学、研究机构和消费者权益保护者,应继续与政府和产业界一起致力于标准制定,并开展考虑关键基础设施用例的人工智能评估研究。
*

公共部门实体,包括联邦、州、地方、部落和领土政府,应通过法定和监管行动提高人工智能安全实践标准。
*

国土安全部部长亚历杭德罗·N·马约卡斯在一份声明中表示:

该框架如果得到广泛采用,将大大有助于更好地确保提供清洁水、稳定电力、互联网接入等关键服务的安全。

国土安全部框架提出了一种共享和独立责任模型,以确保在关键基础设施中安全使用人工智能。

该框架还依赖现有的风险框架,使实体能够评估将人工智能用于某些系统或应用程序是否会带来可能造成危害的严重风险。

坦率地说,我们希望这个框架成为一份动态文件,并随着行业的发展而随之改变。

相关推荐
强哥之神21 分钟前
英伟达发布 Llama Nemotron Nano 4B:专为边缘 AI 和科研任务优化的高效开源推理模型
人工智能·深度学习·语言模型·架构·llm·transformer·边缘计算
Green1Leaves23 分钟前
pytorch学习-9.多分类问题
人工智能·pytorch·学习
kyle~1 小时前
计算机视觉---RealSense深度相机技术
人工智能·数码相机·计算机视觉·机器人·嵌入式·ros·传感器
小能喵1 小时前
Kali Linux Wifi 伪造热点
linux·安全·kali·kali linux
碣石潇湘无限路1 小时前
【AI篇】当Transformer模型开始学习《孙子兵法》
人工智能·学习
看到我,请让我去学习2 小时前
OpenCV开发-初始概念
人工智能·opencv·计算机视觉
汀沿河2 小时前
8.1 prefix Tunning与Prompt Tunning模型微调方法
linux·运维·服务器·人工智能
陈敬雷-充电了么-CEO兼CTO2 小时前
大模型技术原理 - 基于Transformer的预训练语言模型
人工智能·深度学习·语言模型·自然语言处理·chatgpt·aigc·transformer
学术 学术 Fun2 小时前
✨ OpenAudio S1:影视级文本转语音与语音克隆Mac整合包
人工智能·语音识别
风铃喵游3 小时前
让大模型调用MCP服务变得超级简单
前端·人工智能