国土安全部发布关键基础设施安全人工智能框架

美国国土安全部 (DHS) 发布建议,概述如何在关键基础设施中安全开发和部署人工智能 (AI)。

复制代码
https://www.dhs.gov/news/2024/11/14/groundbreaking-framework-safe-and-secure-deployment-ai-critical-infrastructure

关键基础设施中人工智能的角色和职责框架

复制代码
https://www.dhs.gov/sites/default/files/2024-11/24_1114_dhs_ai-roles-and-responsibilities-framework-508.pdf

这些建议适用于 AI 供应链中的所有参与者,从云和计算基础设施提供商到 AI 开发人员,再到关键基础设施所有者和运营商。

还提供了针对民间社会和公共部门组织的建议。

"关键基础设施人工智能角色和职责框架"中的自愿建议涵盖五个关键领域中的各个角色:

保护环境、推动负责任的模型和系统设计、实施数据治理、确保安全部署以及监控性能和影响。

此外,还提出了技术和流程建议,以增强人工智能系统的安全性、可靠性和可信度。

国土安全部在新闻稿中表示,人工智能已经被用于各个领域的恢复力和风险缓解,例如用于地震检测、稳定电网和邮件分类的人工智能应用。

该框架考虑了每个角色的职责:

云和计算基础设施提供商需要审查其硬件和软件供应链,实施强大的访问管理,并保护为 AI 系统提供支持的数据中心的物理安全。该框架还提出了支持下游客户和流程的建议,即通过监控异常活动并建立明确的流程来报告可疑和有害活动。
*

人工智能开发人员应采用安全的设计方法,评估人工智能模型的危险能力,并"确保模型与以人为本的价值观保持一致"。该框架进一步鼓励人工智能开发人员实施强有力的隐私保护措施;进行评估,以测试可能的偏见、故障模式和漏洞;并支持对对关键基础设施系统及其消费者构成更大风险的模型进行独立评估。
*

关键基础设施所有者和运营商应安全地部署人工智能系统,包括保持强大的网络安全实践以应对与人工智能相关的风险,在微调人工智能产品时保护客户数据,并在使用人工智能向公众提供商品、服务或福利方面提供有意义的透明度。
*

参与人工智能安全问题的民间社会,包括大学、研究机构和消费者权益保护者,应继续与政府和产业界一起致力于标准制定,并开展考虑关键基础设施用例的人工智能评估研究。
*

公共部门实体,包括联邦、州、地方、部落和领土政府,应通过法定和监管行动提高人工智能安全实践标准。
*

国土安全部部长亚历杭德罗·N·马约卡斯在一份声明中表示:

该框架如果得到广泛采用,将大大有助于更好地确保提供清洁水、稳定电力、互联网接入等关键服务的安全。

国土安全部框架提出了一种共享和独立责任模型,以确保在关键基础设施中安全使用人工智能。

该框架还依赖现有的风险框架,使实体能够评估将人工智能用于某些系统或应用程序是否会带来可能造成危害的严重风险。

坦率地说,我们希望这个框架成为一份动态文件,并随着行业的发展而随之改变。

相关推荐
白-胖-子4 小时前
深入剖析大模型在文本生成式 AI 产品架构中的核心地位
人工智能·架构
想要成为计算机高手5 小时前
11. isaacsim4.2教程-Transform 树与Odometry
人工智能·机器人·自动驾驶·ros·rviz·isaac sim·仿真环境
静心问道6 小时前
InstructBLIP:通过指令微调迈向通用视觉-语言模型
人工智能·多模态·ai技术应用
宇称不守恒4.07 小时前
2025暑期—06神经网络-常见网络2
网络·人工智能·神经网络
小楓12017 小时前
醫護行業在未來會被AI淘汰嗎?
人工智能·醫療·護理·職業
数据与人工智能律师7 小时前
数字迷雾中的安全锚点:解码匿名化与假名化的法律边界与商业价值
大数据·网络·人工智能·云计算·区块链
chenchihwen7 小时前
大模型应用班-第2课 DeepSeek使用与提示词工程课程重点 学习ollama 安装 用deepseek-r1:1.5b 分析PDF 内容
人工智能·学习
说私域7 小时前
公域流量向私域流量转化策略研究——基于开源AI智能客服、AI智能名片与S2B2C商城小程序的融合应用
人工智能·小程序
Java樱木8 小时前
AI 编程工具 Trae 重要的升级。。。
人工智能
终焉暴龙王8 小时前
CTFHub web进阶 php Bypass disable_function通关攻略
开发语言·安全·web安全·php