中国《人工智能安全治理框架》1.0版正式发布 规范各类AI、算法

今日,全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0版。《框架》提出了包容审慎、确保安全,风险导向、敏捷治理,技管结合、协同应对,开放合作、共治共享等人工智能安全治理的原则。

针对模型算法安全、数据安全和系统安全等内生安全风险和网络域、现实域、认知域、伦理域等应用安全风险,《框架》提出相应技术应对和综合防治措施,以及人工智能安全开发应用指引,为促进人工智能健康发展和规范应用,提供了基础性、框架性技术指南。

这也是目前各国、机构都在寻求规范的领域,因为近两年AI技术发展迅速,目前已经深入到各方各面,如果没有规范管理,在灰色地带很容易产生一些风险。

今年早些时候,欧盟就批准了《人工智能法案》,其中严格禁止"对人类安全造成不可接受风险的人工智能系统"。

包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等,还规定人工智能公司要对算法进行人为控制,提供技术文件,并建立相应的风险管理系统。

相关推荐
zzywxc78721 分钟前
PyTorch分布式训练:从入门到精通
前端·javascript·人工智能·深度学习·react.js·技术栈深潜计划
亚马逊云开发者24 分钟前
零代码生成 3D 游戏:基于 Amazon Q Developer CLI 和 Three.js 的实践
人工智能·游戏
掘金安东尼28 分钟前
python 代码实战详解:金融风控场景下的大模型挑战
人工智能·llm
爱嘤嘤的小猪仔31 分钟前
Deep learning based descriptor
人工智能·深度学习
羸弱的穷酸书生38 分钟前
前后端流式交互的几种方式
人工智能·交互·ai编程
linweidong43 分钟前
如何设计和实施高效的向量化数据检索解决方案
人工智能·机器学习·大模型·agent·milvus·faiss·向量索引
百特搭1 小时前
国产化低代码平台如何筑牢企业数字化安全底座
安全·低代码
TextIn智能文档云平台1 小时前
当文档包含图文混排表格时,如何结合大模型(如DeepSeek-VL)和OCR提取数据
人工智能·ocr·大模型文档应用
小关会打代码1 小时前
机器学习第三课之逻辑回归(三)LogisticRegression
人工智能·机器学习·逻辑回归·下采样·过采样
我不是小upper1 小时前
模型蒸馏(Distillation):原理、算法、应用
人工智能·算法·自然语言处理·llm·算法蒸馏