新规正式发布 | 百度深度参编《生成式人工智能服务安全基本要求》

2024年2月29日,全国网络安全标准化技术委员会( TC260 )正式发布《生成式人工智能服务安全基本要求》(以下简称《基本要求》)。《基本要求》规定了生成式人工智能服务在安全方面的基本要求,包括语料安全、模型安全、安全措施等,并给出了安全评估要求,适用于服务提供者开展安全评估、提高安全水平,也可为相关主管部门评判生成式人工智能服务安全水平提供参考。百度深度参与技术文件编制,并作为试点应用企业在文件编制过程中就语料安全、模型安全、评估要求等多项条款开展验证。

作为人工智能领军企业,百度高度重视大模型安全风险防范的能力建设和生态建设。此前,百度已深度参与了3项国家标准《信息安全技术 生成式人工智能人工标注安全规范》 《信息安全技术 生成式人工智能预训练和优化训练数据安全规范》《信息安全技术 生成式人工智能安全基本要求》及1个实践指南《网络安全标准实践指南---生成式人工智能服务内容标识方法》,更作为本次《基本要求》标准推广单位,基于标准要求在编制过程中结合业务实践开展符合性验证,指导业务合规,降低安全风险。

与此同时,依托于百度大模型安全实践经验,百度从大模型全生命周期视角出发,总结出的一套从服务提供方视角的应对思路,方案涵盖大模型训练/精调/推理、大模型部署、大模型业务运营等关键阶段,提供全流程的包含数据安全与隐私保护方案、模型保护方案、AIGC 内容合规方案、业务运营风控方案的安全产品与服务,同时结合以攻促防守的思路建立 AIGC 内容安全蓝军评测能力,对大模型实现例行化的安全评估,助力企业构建平稳健康、可信可靠的大模型服务。

面对当下"大模型+安全"所面临的新形势、新机遇、新挑战,百度将不断拓展人工智能技术在网络安全领域的技术革新与应用,与各界保持合作,共筑大模型安全防线,并以实践经验推动相关标准的建设,助力构建完善的人工智能安全保障体系,探索更安全的大模型落地千行百业的无限可能。

相关推荐
Lethehong1 小时前
Gemini 2.5 Pro (0605版本) 深度测评与体验指南
人工智能·chatgpt·googlecloud
全栈小51 小时前
【AI】从0开始玩转混元3D⼤模型,如何让一张静态实物图片一键转为3D实物图,大模型都表示服了,超级简单易上手,快来试试!
人工智能·3d·腾讯·混元达3d大模型·腾讯混元3d大模型
Bwcx_lzp1 小时前
MCP和Function Calling
人工智能·笔记
YYXZZ。。3 小时前
PyTorch——搭建小实战和Sequential的使用(7)
人工智能·pytorch·python
四川兔兔3 小时前
pytorch 与 张量的处理
人工智能·pytorch·python
2501_915373885 小时前
Redis线程安全深度解析:单线程模型的并发智慧
数据库·redis·安全
AI蜗牛之家6 小时前
Qwen系列之Qwen3解读:最强开源模型的细节拆解
人工智能·python
王上上6 小时前
【论文阅读30】Bi-LSTM(2024)
论文阅读·人工智能·lstm
YunTM7 小时前
贝叶斯优化+LSTM+时序预测=Nature子刊!
人工智能·机器学习
舒一笑8 小时前
智能体革命:企业如何构建自主决策的AI代理?
人工智能