AI安全格局:前沿模型、智能体AI和AI编码工具如何重塑网络安全与关键基础设施韧性

美国众议院国土安全部网络安全与基础设施保护小组委员会于 2026年6月4日 举行的听证会联合书面证词。听证会主题为《AI安全格局:前沿模型、智能体AI和AI编码工具如何重塑网络安全与关键基础设施韧性》。

文件汇集了来自谷歌、前沿模型论坛(FMF)以及电子前哨基金会(EFF)等多位行业与政策专家的证词。

核心内容汇总:


1. 谷歌威胁情报(GTIG)证词

证人:Sandra Joyce(谷歌威胁情报副总裁)

  • AI攻防攻守易势: AI正在大幅提升网络攻击的规模、速度和复杂性。谷歌最近首次确认发现有犯罪分子利用AI开发出了 零日漏洞(Zero-day)。

  • 两大核心担忧:

    1. 漏洞泛滥: 攻击者可能在短期内占据主动,利用AI大规模发现并利用软件漏洞。

    2. 智能体(Agentic)攻势: 攻击者正在利用具有自主推理和记忆能力的"智能体AI"实现自动化侦察和多工具切换,彻底摆脱传统人类响应时间的限制。

  • 应对框架(自主防御控制环): 谷歌提出了一个"准备(Prepare)、扫描与优化(Scan & Prioritize)、修复(Remediate)、监控(Monitor)"的四步控制环,通过自主安全智能体(如 CodeMender)以机器速度自动生成并应用安全补丁,让系统在遭受攻击前实现自愈。

2. 前沿模型论坛(FMF)证词

证人:Chris Meserole(执行董事)

  • 能力演进符合预期: 诸如 Anthropic 的 Claude Mythos 和 OpenAI 的 GPT-5.5 等最新前沿模型表现出极强的网络安全任务能力。Mythos 成为首个100%通过 CyBench 网络安全基准测试的模型。但这并非突变,而是过去两年技术趋势的延续。

  • 对抗性蒸馏(Adversarial Distillation)风险: 恶意分子或外国竞争对手正通过"教师模型"输出的数据来训练"学生模型"(蒸馏技术),从而绕过原模型自带的安全过滤和防护措施,这给关键基础设施带来了巨大威胁。

  • 政策建议: 强化现有的公私协作与信息共享渠道(如 FMF 内部的信息共享机制),而不是另起炉灶;同时加大对网络安全基准测试的投入,确保测试标准领先于模型的发展速度。

3. Corridor 证词(AI编码与漏洞预防)

证人:Jack Cable(CEO 兼联合创始人,前 CISA 官员)

  • AI已成为代码编写的主力: 2026年 GitHub 提交的代码量比2025年暴增了14倍;在谷歌,已有75%的新代码由AI生成。

  • "漏洞大爆发"(Bugpocalypse)风险: 伴随AI自主生成代码量的暴增,漏洞也呈指数级泛滥(数据显示约13%至33%的AI生成代码包含安全漏洞或错误),人类工程师已无法完全应对。

  • 解法:从源头预防(Secure by Design): 虽然AI容易带入漏洞,但研究发现AI在规划阶段比人类更服从安全指令。通过提供特定上下文,可减少60%的漏洞。同时应利用AI将不安全的C/C++代码重构为内存安全语言(如 Rust)。

  • 建议: 国会应强制要求联邦政府及承包商在AI编码中加入安全护栏;建立数十亿美元的非营利基金用于开源软件的大规模重构与维护;推动美国本土开源权重模型(Open-weight models)的发展以保持国家竞争力。

4. 电子前哨基金会(EFF)证词

证人:Matthew Guariglia(高级政策分析师)

  • 反对AI大规模监控: EFF强烈反对将生成式AI用于政府的大规模监控。AI强大的数据整合能力会极易勾勒出美国公民极度私密的个人生活画像,且"盖章式"的盲目信任(缺乏人类监督)会导致严重的偏见或幻觉错误。

  • 漏洞囤积 vs 漏洞披露: 政府不应再为了网络间谍或监视目的而"囤积"零日漏洞(例如过去的 EternalBlue 最终被敌国利用)。AI使得独立发现漏洞的成本极低,漏洞囤积的价值已大幅贬值,政府应全面致力于漏洞的公开披露和即时修复。

  • 政策建议:

    1. 通过《第四修正案非卖品法案》,禁止政府从数据经纪商处购买大宗公民个人数据。
    1. 对 FISA 第702条进行实质性改革,遏制大规模非法监视。
    1. 避免政府对AI开发者进行全面控制,保障企业自由研发和发布多用途模型的权利,网络风险应通过强化政府自身系统的安全韧性(如采用内存安全语言、缩短补丁差距)来解决,而非限制技术本身。

听证会一致认为,AI彻底改变了网络安全的"时间空间",攻防战已演变为机器对机器的对抗 。对此,专家们普遍认为"打补丁"的传统路径已死,未来的关键在于设计即安全(Secure by Design)、利用AI防御智能体消除人类瓶颈、保护开源软件供应链,以及在推动自主防御的同时严防政府利用AI践踏公民隐私。

PDF全文下载链接

相关推荐
云和数据.ChenGuang2 小时前
Python 重写(Override)深度解析:从 MRO 到 super() 的完整机制
java·开发语言·人工智能·python·langchain·1024程序员节
西西木科技丨Shopify开发机构3 小时前
CalDigit TS4案例:AI产品图的Shopify整站接入与验收
人工智能·shopify·独立站
2601_965448873 小时前
AI视频制作:做系列节气民俗视频音色不统一,AI 音色克隆省事的方法
人工智能·机器学习·音视频
美狐美颜SDK开放平台3 小时前
视频美颜SDK试用DEMO阶段应该测试什么?直播APP接入实操指南
开发语言·人工智能·深度学习·音视频·美颜sdk·直播美颜sdk·第三方美颜sdk
HRaitest3 小时前
秋招技术岗招聘提效:三类 AI 招聘方案的技术底层与选型逻辑
大数据·人工智能·求职招聘·ai-native
天远数科4 小时前
零信任架构实战:基于天远企业股权变更构建自动化商业银行对公授信存续期股权异动与资产抽逃预警网关
运维·人工智能·架构·自动化
车软学堂4 小时前
从测试转开发,到底要补什么
网络·人工智能·python·功能测试·单片机·车载系统·自动化
海盗12344 小时前
AI 新闻日报 10-28:Atria Dawn 完整版开源、Cursor Agent SDK 转正、Genie 4 实时世界模型
人工智能·机器人·开源·人工智能aigc
志尊宝5 小时前
AI原生前端开发(035):AI时代的工程化最佳实践总结
人工智能·ai-native
冬奇Lab5 小时前
一天一个开源项目(第251篇):Claude SEO —— 装进 Claude Code 的 SEO 审计团队,26 个子技能 + 19 个专家 Agent 并行体检网站
人工智能·开源