AI安全格局:前沿模型、智能体AI和AI编码工具如何重塑网络安全与关键基础设施韧性

美国众议院国土安全部网络安全与基础设施保护小组委员会于 2026年6月4日 举行的听证会联合书面证词。听证会主题为《AI安全格局:前沿模型、智能体AI和AI编码工具如何重塑网络安全与关键基础设施韧性》。

文件汇集了来自谷歌、前沿模型论坛(FMF)以及电子前哨基金会(EFF)等多位行业与政策专家的证词。

核心内容汇总:


1. 谷歌威胁情报(GTIG)证词

证人:Sandra Joyce(谷歌威胁情报副总裁)

  • AI攻防攻守易势: AI正在大幅提升网络攻击的规模、速度和复杂性。谷歌最近首次确认发现有犯罪分子利用AI开发出了 零日漏洞(Zero-day)

  • 两大核心担忧:

    1. 漏洞泛滥: 攻击者可能在短期内占据主动,利用AI大规模发现并利用软件漏洞。

    2. 智能体(Agentic)攻势: 攻击者正在利用具有自主推理和记忆能力的"智能体AI"实现自动化侦察和多工具切换,彻底摆脱传统人类响应时间的限制。

  • 应对框架(自主防御控制环): 谷歌提出了一个"准备(Prepare)、扫描与优化(Scan & Prioritize)、修复(Remediate)、监控(Monitor)"的四步控制环,通过自主安全智能体(如 CodeMender)以机器速度自动生成并应用安全补丁,让系统在遭受攻击前实现自愈。

2. 前沿模型论坛(FMF)证词

证人:Chris Meserole(执行董事)

  • 能力演进符合预期: 诸如 Anthropic 的 Claude Mythos 和 OpenAI 的 GPT-5.5 等最新前沿模型表现出极强的网络安全任务能力。Mythos 成为首个100%通过 CyBench 网络安全基准测试的模型。但这并非突变,而是过去两年技术趋势的延续。

  • 对抗性蒸馏(Adversarial Distillation)风险: 恶意分子或外国竞争对手正通过"教师模型"输出的数据来训练"学生模型"(蒸馏技术),从而绕过原模型自带的安全过滤和防护措施,这给关键基础设施带来了巨大威胁。

  • 政策建议: 强化现有的公私协作与信息共享渠道(如 FMF 内部的信息共享机制),而不是另起炉灶;同时加大对网络安全基准测试的投入,确保测试标准领先于模型的发展速度。

3. Corridor 证词(AI编码与漏洞预防)

证人:Jack Cable(CEO 兼联合创始人,前 CISA 官员)

  • AI已成为代码编写的主力: 2026年 GitHub 提交的代码量比2025年暴增了14倍;在谷歌,已有75%的新代码由AI生成。

  • "漏洞大爆发"(Bugpocalypse)风险: 伴随AI自主生成代码量的暴增,漏洞也呈指数级泛滥(数据显示约13%至33%的AI生成代码包含安全漏洞或错误),人类工程师已无法完全应对。

  • 解法:从源头预防(Secure by Design): 虽然AI容易带入漏洞,但研究发现AI在规划阶段比人类更服从安全指令。通过提供特定上下文,可减少60%的漏洞。同时应利用AI将不安全的C/C++代码重构为内存安全语言(如 Rust)。

  • 建议: 国会应强制要求联邦政府及承包商在AI编码中加入安全护栏;建立数十亿美元的非营利基金用于开源软件的大规模重构与维护;推动美国本土开源权重模型(Open-weight models)的发展以保持国家竞争力。

4. 电子前哨基金会(EFF)证词

证人:Matthew Guariglia(高级政策分析师)

  • 反对AI大规模监控: EFF强烈反对将生成式AI用于政府的大规模监控。AI强大的数据整合能力会极易勾勒出美国公民极度私密的个人生活画像,且"盖章式"的盲目信任(缺乏人类监督)会导致严重的偏见或幻觉错误。

  • 漏洞囤积 vs 漏洞披露: 政府不应再为了网络间谍或监视目的而"囤积"零日漏洞(例如过去的 EternalBlue 最终被敌国利用)。AI使得独立发现漏洞的成本极低,漏洞囤积的价值已大幅贬值,政府应全面致力于漏洞的公开披露和即时修复

  • 政策建议:

    1. 通过《第四修正案非卖品法案》,禁止政府从数据经纪商处购买大宗公民个人数据。
    1. 对 FISA 第702条进行实质性改革,遏制大规模非法监视。
    1. 避免政府对AI开发者进行全面控制,保障企业自由研发和发布多用途模型的权利,网络风险应通过强化政府自身系统的安全韧性(如采用内存安全语言、缩短补丁差距)来解决,而非限制技术本身。

听证会一致认为,AI彻底改变了网络安全的"时间空间",攻防战已演变为机器对机器的对抗 。对此,专家们普遍认为"打补丁"的传统路径已死,未来的关键在于设计即安全(Secure by Design)、利用AI防御智能体消除人类瓶颈、保护开源软件供应链,以及在推动自主防御的同时严防政府利用AI践踏公民隐私。

PDF全文下载链接

相关推荐
冬奇Lab1 小时前
Workflow 系列(01):基础理论——三种执行模型与 Anthropic 5 种模式
人工智能·agent·工作流引擎
冬奇Lab2 小时前
每日一个开源项目(第143篇):page-agent - 纯 JS 的网页 GUI Agent,无需截图、无需插件、无需后端
前端·人工智能·agent
程序员cxuan4 小时前
虽迟但到!GPT-5.6 终于来了!
人工智能·后端·程序员
ZhengEnCi6 小时前
Q03-UI设计进阶技巧-让界面更高级的7个核心原则
人工智能
IT_陈寒6 小时前
React的这个渲染问题连官方文档都没说清楚
前端·人工智能·后端
不加辣椒7 小时前
第12章 工具调用与 Agent 提示工程
人工智能
用户1693176172667 小时前
前端给AI消息做日期分组与时间线
人工智能
i晟7 小时前
Claude Code Harness 深度拆解:从你敲回车到模型回复,中间发生了什么
人工智能
用户252736278149 小时前
【踩坑复盘】我在本地跑 RAG 知识库时踩了 5 个大坑,吐血整理避坑指南
人工智能
大模型真好玩9 小时前
LangChain DeepAgents 速通指南(九)—— 生产级智能体框架 DeepAgents Code 源码导读
人工智能·langchain·agent