国土安全部发布关键基础设施安全人工智能框架

美国国土安全部 (DHS) 发布建议,概述如何在关键基础设施中安全开发和部署人工智能 (AI)。

复制代码
https://www.dhs.gov/news/2024/11/14/groundbreaking-framework-safe-and-secure-deployment-ai-critical-infrastructure

关键基础设施中人工智能的角色和职责框架

复制代码
https://www.dhs.gov/sites/default/files/2024-11/24_1114_dhs_ai-roles-and-responsibilities-framework-508.pdf

这些建议适用于 AI 供应链中的所有参与者,从云和计算基础设施提供商到 AI 开发人员,再到关键基础设施所有者和运营商。

还提供了针对民间社会和公共部门组织的建议。

"关键基础设施人工智能角色和职责框架"中的自愿建议涵盖五个关键领域中的各个角色:

保护环境、推动负责任的模型和系统设计、实施数据治理、确保安全部署以及监控性能和影响。

此外,还提出了技术和流程建议,以增强人工智能系统的安全性、可靠性和可信度。

国土安全部在新闻稿中表示,人工智能已经被用于各个领域的恢复力和风险缓解,例如用于地震检测、稳定电网和邮件分类的人工智能应用。

该框架考虑了每个角色的职责:

云和计算基础设施提供商需要审查其硬件和软件供应链,实施强大的访问管理,并保护为 AI 系统提供支持的数据中心的物理安全。该框架还提出了支持下游客户和流程的建议,即通过监控异常活动并建立明确的流程来报告可疑和有害活动。
*

人工智能开发人员应采用安全的设计方法,评估人工智能模型的危险能力,并"确保模型与以人为本的价值观保持一致"。该框架进一步鼓励人工智能开发人员实施强有力的隐私保护措施;进行评估,以测试可能的偏见、故障模式和漏洞;并支持对对关键基础设施系统及其消费者构成更大风险的模型进行独立评估。
*

关键基础设施所有者和运营商应安全地部署人工智能系统,包括保持强大的网络安全实践以应对与人工智能相关的风险,在微调人工智能产品时保护客户数据,并在使用人工智能向公众提供商品、服务或福利方面提供有意义的透明度。
*

参与人工智能安全问题的民间社会,包括大学、研究机构和消费者权益保护者,应继续与政府和产业界一起致力于标准制定,并开展考虑关键基础设施用例的人工智能评估研究。
*

公共部门实体,包括联邦、州、地方、部落和领土政府,应通过法定和监管行动提高人工智能安全实践标准。
*

国土安全部部长亚历杭德罗·N·马约卡斯在一份声明中表示:

该框架如果得到广泛采用,将大大有助于更好地确保提供清洁水、稳定电力、互联网接入等关键服务的安全。

国土安全部框架提出了一种共享和独立责任模型,以确保在关键基础设施中安全使用人工智能。

该框架还依赖现有的风险框架,使实体能够评估将人工智能用于某些系统或应用程序是否会带来可能造成危害的严重风险。

坦率地说,我们希望这个框架成为一份动态文件,并随着行业的发展而随之改变。

相关推荐
对你无可奈何5 小时前
给 ComfyUI 做了一个手机助手
人工智能
布谷歌7 小时前
敏感参数不要放在 URL 里---->从 `validateLogin` 与短信验证码接口看 GET / POST 的安全边界
安全
feasibility.7 小时前
英伟达把物理AI的3D模型“应用商店”开放了:2575个SimReady仿真资产,总计约472GB,可让agent装配机器人训练场景
人工智能·3d·机器人·仿真·建模·具身智能·英伟达
智联视频超融合平台7 小时前
消防宣传月过半,“AI+消防“给视频平台换了张考卷
人工智能·边缘计算·视频监控·安防·视频联网
冬奇Lab8 小时前
一天一个开源项目(第262篇):AG-UI —— 把 AI Agent 接进前端的开放协议,和 MCP、A2A 并列的第三块拼图
人工智能·开源
罗西的思考9 小时前
【轻量化复现大模型 / KIMI K3】MTP / EAGLE‑3 模块交互式演示
人工智能·深度学习·算法
RobinDevNotes10 小时前
Claude Code 剪视频,不上传、不要 API Key
人工智能·python·音视频·开发工具·ipython
stormzhangV10 小时前
Coding Agent,通往 AGI 的重要一环
人工智能·agent·ai编程
Bowen_J11 小时前
Apple Foundation Models:Apple AI核心框架
人工智能·ai编程·apple
如夏倾城11 小时前
VRRP(虚拟路由器冗余协议Virtual Router Redundancy Protocol)
网络·python·网络协议·安全·智能路由器·负载均衡·信息与通信