中国《人工智能安全治理框架》1.0版正式发布 规范各类AI、算法

今日,全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0版。《框架》提出了包容审慎、确保安全,风险导向、敏捷治理,技管结合、协同应对,开放合作、共治共享等人工智能安全治理的原则。

针对模型算法安全、数据安全和系统安全等内生安全风险和网络域、现实域、认知域、伦理域等应用安全风险,《框架》提出相应技术应对和综合防治措施,以及人工智能安全开发应用指引,为促进人工智能健康发展和规范应用,提供了基础性、框架性技术指南。

这也是目前各国、机构都在寻求规范的领域,因为近两年AI技术发展迅速,目前已经深入到各方各面,如果没有规范管理,在灰色地带很容易产生一些风险。

今年早些时候,欧盟就批准了《人工智能法案》,其中严格禁止"对人类安全造成不可接受风险的人工智能系统"。

包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等,还规定人工智能公司要对算法进行人为控制,提供技术文件,并建立相应的风险管理系统。

相关推荐
一起学安全技术4 分钟前
拆大模型 11|大模型面试拷问:12 问逐层拆
人工智能·ai·语言模型·面试·职场和发展·求职招聘
挖掘狂人8 分钟前
128GB 让 “本地跑大模型” 成为日用品,但分水岭不在硬件
人工智能
oil欧哟17 分钟前
Gemini 4 系列与 Antigravity 使用心得:Carbon、Argon 与 Hydrogen 实测与提速方法
人工智能
菜鸟~noob23332 分钟前
[AI]间章:系列走到这里,聊聊后面的规划、造卡需要的软件平台,以及为什么我要先暂停更新
人工智能·python·fpga开发·django·pygame
aneasystone本尊40 分钟前
大模型训练系列收官:动手训一个属于自己的小模型
人工智能
杨凯凡1 小时前
Spring AI MCP 多租户安全实战:共享 Session 会串数据吗?工具权限与隔离边界
人工智能·安全·spring
chh56310 小时前
从 BERT 到大模型:让模型从“会接龙”到“会回答
人工智能·深度学习·bert
TomEval10 小时前
【测AI】第26篇:线上模型监控与告警体系 — 测试不是终点
人工智能·python·功能测试·ai
ZhengEnCi11 小时前
AI 总模仿代码库里的过时写法怎么办:先清坏样例,再用类型与测试让 AI 无法犯错
人工智能·ai编程
一只爱撸猫的程序猿11 小时前
五周、两个开源仓库、九次拦截之后:AI 时代程序员缺的到底是什么
人工智能·后端·开源