• 制定并实施人工智能伦理框架
国家和行业层面需建立AI伦理原则,将其融入研发与应用中,强化科研人员的伦理培训,推动全球AI伦理框架的制定。
• 加强可信数字内容体系建设
构建可信的互联网内容体系以应对深度伪造带来的安全威胁,确保数字内容的溯源性和抗篡改性。
• 强化隐私保护模型推理研究
通过安全多方计算、同态加密等技术,既保障大模型为用户提供服务,又确保托管方无法接触到输入数据。
• 增加人工智能在网络攻防中的作用
借助AI实现智能化入侵检测、威胁情报分析、恶意软件检测和网络溯源,提升防御策略有效性。
• 建立大模型安全理论体系
加强大模型机制和决策的可解释性研究,构建数学理论支持的模型框架,更好理解模型的运作机制。
• 构建人工智能安全测评体系
加速AI安全测评技术和标准的研究,开发安全测评工具,分级提升我国AI安全测评能力,打造国际一流的AI安全测评平台。