背景
观点内容摘取自《第四届数字信任大会暨ISACA中国2025年度大会》嘉宾的演讲与分享，内容代表了演讲嘉宾的经验分享/意见观点。
详细版本PPT更新在ISACA中国区官网。
引言：AI浪潮与安全挑战
随着人工智能（AI）技术的飞速发展，它在各行各业展现出巨大的潜力和应用价值。然而，随之而来的安全与治理挑战也日益凸显，建立健全的AI安全管理体系已成为当务之急。本文根据秦峰先生在数字信任大会上的演讲内容，对AI的发展历程、面临的风险挑战以及管理体系建设的关键要素进行深入总结。
一、人工智能的发展与三次浪潮
二、AI风险与针对AI的攻击技术
AI的发展在带来便利的同时，也引入了新的风险点，主要集中在AI自身安全风险和针对AI的攻击技术两个方面 。
此外，针对大语言模型（LLM）应用，OWASP也提出了最新的十大风险 ，包括：提示注入 、敏感信息泄露 、供应链攻击 、数据和模型投毒等 。
三、全球与中国对AI治理的政策导向解读
面对AI的挑战，全球和中国都在积极构建治理框架。
1. 国际治理框架
2. 中国AI政策导向解读
四、人工智能安全管理体系能力建设
建立AI安全管理体系是应对挑战的关键，涉及到识别利益相关方、风险管理、影响评估、全生命周期管理和制度体系建设。
