企业在拥抱AI技术过程中面临的安全风险主要涵盖以下六个层面，具体如下：
1. 系统风险
供应链风险 ：AI模型软件的供应链可能存在漏洞或恶意组件。
暴露面风险 ：AI系统的攻击面扩大，可能因配置错误或接口暴露导致风险。
算力劫持风险：攻击者可能通过非法手段占用AI计算资源（如GPU/TPU）。
2. 网络风险
公网入侵攻击 ：面向公网的AI服务可能遭受恶意攻击（如SQL注入、跨站脚本）。
内网隔离风险：AI Agent在内网中可能因缺乏有效隔离而引发横向渗透或数据泄露。
3. 身份风险
非人类身份（NHI）管控 ：AI Agent可能被滥用或冒充合法身份进行越权操作。
身份冒充：攻击者可能伪造用户身份或AI Agent身份以绕过安全验证。
4. 数据风险
数据投毒 ：在AI模型训练阶段，恶意数据可能被注入以污染模型输出。
敏感信息泄漏：AI在输入/输出阶段可能无意中泄露用户隐私或商业机密。
5. 模型风险
恶意诱导 ：通过设计恶意输入（如提示词攻击）操控AI输出内容。
不可预测性：AI的自主决策能力可能导致非预期行为，增加合规与治理难度。
6. 应用风险
Web入侵 ：AI在线服务可能成为Web攻击的目标（如跨站攻击、逻辑漏洞）。
DDoS攻击：攻击者通过流量洪流导致AI服务不可用，影响业务连续性。
其他关键风险
AI Agent的自主性风险 ：其自主决策能力可能被恶意利用（如提示词注入、越权操作）。
基础设施漏洞：AI系统依赖的底层技术（如算力平台）可能存在注入、逆向攻击等风险。
总结
这些风险贯穿AI的开发、部署和运维全流程，需通过全栈安全框架（如运行时检测、动态防护、数据流监控等）进行综合防护。文档强调，企业需在引入AI时同步构建安全能力，以应对传统安全边界被打破后的新型威胁。