AI安全格局:前沿模型、智能体AI和AI编码工具如何重塑网络安全与关键基础设施韧性

美国众议院国土安全部网络安全与基础设施保护小组委员会于 2026年6月4日 举行的听证会联合书面证词。听证会主题为《AI安全格局:前沿模型、智能体AI和AI编码工具如何重塑网络安全与关键基础设施韧性》。

文件汇集了来自谷歌、前沿模型论坛(FMF)以及电子前哨基金会(EFF)等多位行业与政策专家的证词。

核心内容汇总:


1. 谷歌威胁情报(GTIG)证词

证人:Sandra Joyce(谷歌威胁情报副总裁)

  • AI攻防攻守易势: AI正在大幅提升网络攻击的规模、速度和复杂性。谷歌最近首次确认发现有犯罪分子利用AI开发出了 零日漏洞(Zero-day)

  • 两大核心担忧:

    1. 漏洞泛滥: 攻击者可能在短期内占据主动,利用AI大规模发现并利用软件漏洞。

    2. 智能体(Agentic)攻势: 攻击者正在利用具有自主推理和记忆能力的"智能体AI"实现自动化侦察和多工具切换,彻底摆脱传统人类响应时间的限制。

  • 应对框架(自主防御控制环): 谷歌提出了一个"准备(Prepare)、扫描与优化(Scan & Prioritize)、修复(Remediate)、监控(Monitor)"的四步控制环,通过自主安全智能体(如 CodeMender)以机器速度自动生成并应用安全补丁,让系统在遭受攻击前实现自愈。

2. 前沿模型论坛(FMF)证词

证人:Chris Meserole(执行董事)

  • 能力演进符合预期: 诸如 Anthropic 的 Claude Mythos 和 OpenAI 的 GPT-5.5 等最新前沿模型表现出极强的网络安全任务能力。Mythos 成为首个100%通过 CyBench 网络安全基准测试的模型。但这并非突变,而是过去两年技术趋势的延续。

  • 对抗性蒸馏(Adversarial Distillation)风险: 恶意分子或外国竞争对手正通过"教师模型"输出的数据来训练"学生模型"(蒸馏技术),从而绕过原模型自带的安全过滤和防护措施,这给关键基础设施带来了巨大威胁。

  • 政策建议: 强化现有的公私协作与信息共享渠道(如 FMF 内部的信息共享机制),而不是另起炉灶;同时加大对网络安全基准测试的投入,确保测试标准领先于模型的发展速度。

3. Corridor 证词(AI编码与漏洞预防)

证人:Jack Cable(CEO 兼联合创始人,前 CISA 官员)

  • AI已成为代码编写的主力: 2026年 GitHub 提交的代码量比2025年暴增了14倍;在谷歌,已有75%的新代码由AI生成。

  • "漏洞大爆发"(Bugpocalypse)风险: 伴随AI自主生成代码量的暴增,漏洞也呈指数级泛滥(数据显示约13%至33%的AI生成代码包含安全漏洞或错误),人类工程师已无法完全应对。

  • 解法:从源头预防(Secure by Design): 虽然AI容易带入漏洞,但研究发现AI在规划阶段比人类更服从安全指令。通过提供特定上下文,可减少60%的漏洞。同时应利用AI将不安全的C/C++代码重构为内存安全语言(如 Rust)。

  • 建议: 国会应强制要求联邦政府及承包商在AI编码中加入安全护栏;建立数十亿美元的非营利基金用于开源软件的大规模重构与维护;推动美国本土开源权重模型(Open-weight models)的发展以保持国家竞争力。

4. 电子前哨基金会(EFF)证词

证人:Matthew Guariglia(高级政策分析师)

  • 反对AI大规模监控: EFF强烈反对将生成式AI用于政府的大规模监控。AI强大的数据整合能力会极易勾勒出美国公民极度私密的个人生活画像,且"盖章式"的盲目信任(缺乏人类监督)会导致严重的偏见或幻觉错误。

  • 漏洞囤积 vs 漏洞披露: 政府不应再为了网络间谍或监视目的而"囤积"零日漏洞(例如过去的 EternalBlue 最终被敌国利用)。AI使得独立发现漏洞的成本极低,漏洞囤积的价值已大幅贬值,政府应全面致力于漏洞的公开披露和即时修复

  • 政策建议:

    1. 通过《第四修正案非卖品法案》,禁止政府从数据经纪商处购买大宗公民个人数据。
    1. 对 FISA 第702条进行实质性改革,遏制大规模非法监视。
    1. 避免政府对AI开发者进行全面控制,保障企业自由研发和发布多用途模型的权利,网络风险应通过强化政府自身系统的安全韧性(如采用内存安全语言、缩短补丁差距)来解决,而非限制技术本身。

听证会一致认为,AI彻底改变了网络安全的"时间空间",攻防战已演变为机器对机器的对抗 。对此,专家们普遍认为"打补丁"的传统路径已死,未来的关键在于设计即安全(Secure by Design)、利用AI防御智能体消除人类瓶颈、保护开源软件供应链,以及在推动自主防御的同时严防政府利用AI践踏公民隐私。

PDF全文下载链接

相关推荐
10WTW011 小时前
计网实验 协议分析--ARP协议
网络
酉鬼女又兒1 小时前
零基础入门计算机网络:点对点协议PPP、媒体接入控制基本概念、静态划分信道技术、CSMA/CD与CSMA/CA协议全面详解
服务器·网络·网络协议·计算机网络·职场和发展·求职招聘·媒体
装不满的克莱因瓶1 小时前
从梯度下降到 Adam 优化器:掌握神经网络参数优化的核心原理
人工智能·python·深度学习·神经网络·机器学习·计算机视觉·ai
maosheng11461 小时前
基于AI 文本生成的自动化Linux 运维文档系统
运维·人工智能·自动化
cxr8281 小时前
分享新疆应急决策大脑功能特性简报
人工智能·应急响应管理
Raink老师1 小时前
【AI面试临阵磨枪-98】前端如何展示多模态流式输出:文字打字机 + 图片渐进 + 音频播放?
前端·人工智能·面试
Jelena157795857921 小时前
主流电商平台(淘宝/1688/京东/拼多多)商品比价与数据分析实战指南
大数据·人工智能·数据分析
ShareBeHappy_Qin1 小时前
AI —— Agent相关概念-1
人工智能·ai·agent
Shadow(⊙o⊙)1 小时前
System V共享内存详解,shm系列接口,三种共享内存删除机制。System V通信缺点分析
linux·运维·服务器·开发语言·网络·c++