国内首发 | CSA大中华区启动《AI安全产业图谱(2024)》调研

在人工智能(AI)技术的快速发展浪潮中,AI安全已成为全球关注的焦点。为应对AI安全带来的挑战,确保AI技术的健康发展,全球范围内的研究机构、企业和技术社区都在积极探索解决方案。

在这一背景下,CSA大中华区于2023年9月成立了AI安全工作组,汇集了来自中国电信、蚂蚁集团、电子科技大学、华为、百度安全、京东安全等机构的专家,致力于构建一个多方参与、共同治理的AI安全生态系统。

CSA大中华区在AI安全领域开展了多项研究工作并取得显著成果。先后发布了**《ChatGPT的安全影响》、《AI安全白皮书》、《全球人工智能治理宣言** 》等研究成果;与OpenAI、亚马逊、谷歌、微软等行业巨头合作,共同发起了AI安全倡议。此外**,由CSA大中华区牵头,联合 OpenAI、蚂蚁集团、科大讯飞、谷歌、微软** 等数十家单位的多名专家学者共同编写的**《生成式AI应用安全测试标准》和《大模型安全测试方法》两项国际标准** **,在第27届联合国科技大会(联合国科技领域的最高级别会议)**上由世界数字技术院(WDTA)发布。这是国际组织首次在生成式AI应用安全、大模型安全领域发布国际标准,为业界提供了统一的测试基准。

**此次《AI安全产业图谱(2024)》由CSA大中华区发起,旨在系统收集和分析在AI安全领域活跃的各企业和组织的信息,**提供一个全面的AI安全行业概览,为后续研究工作、产业发展、政策制定以及企业用户建设提供参考和支持。

调研对象:

面向AI领域的技术提供商、服务供应商、科研院所、高校及其他相关企业单位。

申报流程:

参与单位需自主填写问卷进行申报。CSA大中华区的专家评审团将对提交的资料进行评选和审核,选出符合的单位入选《AI安全产业图谱(2024)》,图谱将于2024年第三季度发布。

申报通道:

添加CSA微信,获取AI安全产业图谱(2024)调研问卷:

微信公众号:csagcr

问卷截止日期:

2024年5月15日

调研内容

《AI安全产业图谱(2024)》包括以下4个大类,20个小类

一、 AI内生安全

○数据安全

○模型安全

○供应链安全

二、 AI赋能安全

○威胁检测与响应

○身份认证和行为分析

○反欺诈与风险控制

○恶意行为检测

○物联网安全

○安全托管服务(MSS)

○AI SecOps

○其他

三、 AI安全服务

○安全咨询

○评估/审计/认证/测评

○安全培训

四、 AI安全研究

○AI安全标准制定

○AI前沿技术研究

○创新技术应用及成果转化

○AI伦理与合规治理

○隐私保护

CSA大中华区AI安全系列活动

产业图谱

《AI安全产业图谱(2024)》现正式启动,将于2024年第三季度发布。

线下大会

CSA大中华区将于2024年7月在香港举办与AI安全、数据安全等热点话题相关的安全峰会,邀请CSA大中华区成员、国际研究机构、科技龙头企业及图谱入围单位线下参会,共议AI安全。

访谈调研

CSA大中华区将对图谱部分入围单位的创始人、技术专家进行深度专访,并报道其AI安全相关的产品和服务。

AI安全认证培训课程

CSA大中华区将于7月发布针对个人的AI安全认证培训课程,入选图谱的单位且是CSA大中华区成员单位,将有机会获得首期班培训名额。

行业研究

CSA大中华区将与各成员单位开展研究合作,持续发布AI安全领域的深度研究报告,包括AI模型可信度研究报告、安全开发by AI白皮书、人工智能和安全状况调查报告等。

CSA大中华区AI安全神兽方阵项目预告

《AI安全神兽方阵报告》-分析报告

在AI安全产业图谱的基础上,CSA大中华区将发布《AI安全神兽方阵报告》。报告将分析和总结AI安全领域国内外的技术发展、市场容量、前景及国外企业的发展状况。

往期神兽方阵报告

AI安全神兽方阵-榜单奖项

CSA大中华区将基于原创的神兽方阵模型对AI安全企业的技术领先性、产品成熟度、市场影响力等维度进行综合分析评估,提供综合性的评价,并在神兽方阵中予以形象的定位展示和供市场参考的能力排行。

往期神兽方阵入选企业表彰

第八届云安全联盟大中华区大会-会议活动

**《AI安全神兽方阵报告》将在第八届云安全联盟大中华区大会上发布,**在大会上对入选AI安全神兽方阵的企业进行荣誉表彰,并提供平台给优秀企业进行品牌展示、宣讲推广与合作对接。

欢迎各方加入CSA大中华区,积极参与CSA大中华区AI安全相关工作,共赴安全、可信、负责任的AI时代新征程。

相关推荐
DaLi Yao7 天前
【论文速读】Optimization-based Prompt Injection Attack to LLM-as-a-Judge
人工智能·算法·语言模型·自然语言处理·提示词攻击·ai安全·注入攻击
云安全联盟大中华区10 天前
CSA发布 | 医疗行业变革下的治理、风险管理与合规性策略
云安全·ai安全·csa研究成果
合天网安实验室1 个月前
深度学习后门攻击分析与实现(二)
深度学习·后门攻击·人工智能安全·ai安全
智源研究院官方账号2 个月前
签署《AI安全国际对话威尼斯共识》 智源持续推动人工智能安全发展
人工智能·ai安全
云安全联盟大中华区4 个月前
全球视角下的AI安全挑战:面向未来的准备
人工智能·ai安全·csa认证培训·caisp人工智能安全专家
大数据在线6 个月前
AI重塑数字安全,安恒信息行胜于言
人工智能·安全·大模型·数字安全·安恒信息
云安全联盟大中华区8 个月前
CSA发布| 科技创新和云计算趋势中的网络安全因素
云安全·数字安全·csa研究成果
Jay 179 个月前
第七届西湖论剑·中国杭州网络安全技能大赛 AI 回声海螺 WP
python·ai安全·提示词注入
清 晨10 个月前
数字身份验证:跨境电商如何应对账户安全挑战?
网络·人工智能·安全·数字安全·跨境电商·经济全球化