国内首个金融领域“AI 换脸”检测标准正式发布

大数据产业创新服务媒体

------聚焦数据 · 改变商业


9月6日,《虚假数字人脸检测金融应用技术规范》标准(下称《标准》)在 2024 Inclusion·外滩大会上正式发布。标准规定了金融领域虚假数字人脸检测服务的功能要求、技术要求、性能要求等,并提出了对应的测试评估方法。据了解,这是国内首个面向金融场景的"AI 换脸"检测标准,中关村金融科技产业发展联盟秘书长、中关村互联网金融研究院院长刘勇在演讲时说:"该标准的发布为金融场景下的虚假数字人脸安全检测和评估提供了依据,也填补了这一领域的空白。"

记者了解到,该标准在中关村金融科技产业发展联盟组织下,由蚂蚁天玑实验室和工商银行、建设银行、邮储银行、中信银行、北京国家金融科技认证中心、中关村互联网金融研究院、网商银行、北京前沿金融监管科技研究院等十几家机构共同撰写。

《标准》在"功能"和"性能"两方面作出了具体规定。功能层面,相关机构应具备替换、活化、深度伪造等五种情况下的虚假数字人脸检测功能。性能层面,相关机构应建立不少5000张的真实数字人脸数据集,和不同伪造形式的虚假人脸数据集,以应对现实生活中的复杂场景。例如不同肤色、不同光线条件、不同清晰度、包含或不包含语音等都是重要维度。据了解,标准的各项条款均在蚂蚁天玑实验室完成了试验验证,并且天玑实验室已经开展了面向金融机构"AI换脸"检测能力的测试评估服务。

此外,《标准》也明确虚假数字人脸内容检测服务性能将从准确性、鲁棒性、泛化性、响应速度等四个维度进行评估,考察机构是否具备完整的、高准确度、高性能的检测水平。据了解,在刚结束的外滩大会 AI 创新赛·全球 Deepfake 攻防挑战赛上,正是应用了此标准的框架和指标,进行赛题的制定和答案的评价。

近两年,随着人工智能技术的飞速发展,深度伪造技术(Deepfake)也日益成熟,它在给社会带来便利的同时,也带来了前所未有的安全挑战。特别是金融行业,人脸识别技术作为身份鉴别的重要手段,其安全性直接关系到金融交易的安全与用户资金的安全。然而,一些不法分子利用人工智能技术制造虚假数字人脸,企图绕过安全机制,给金融安全带来了严重的威胁。刘勇表示,希望通过这个标准指导金融行业及相关机构提升识别虚假数字人脸安全能力,防范相关金融风险。

相关推荐
英辰朗迪AI获客7 小时前
英辰朗迪GEO知识库第188期:动态渲染站点在AI搜索里成了隐形人
人工智能
硅谷秋水7 小时前
MorphMimic 方法分析
人工智能·机器学习·计算机视觉·机器人
MobotStone8 小时前
AI 能不能越用越会用?从“改答案”到“改进自己”,读懂 RSI
人工智能·算法
墨林陌8 小时前
AI 热点日报(2026-11-16):黄仁勋或重返英伟达,华为发具身世界模型,ChatGPT Wallet打通支付
大数据
jay神8 小时前
基于 YOLOv8 的传送带异物检测系统(Web 版)
前端·人工智能·深度学习·yolo·计算机视觉·计算机毕业设计
复杂网络与机器学习8 小时前
Meta 重写 K-Means:25 轮压成 2 轮,GPU 快 45 倍
人工智能·算法·数据挖掘
starzy19908 小时前
Structured Streaming 结构化流概述:把流数据当作一张无限增长的表
大数据·spark
wuyk5558 小时前
Spider-第12讲-asyncio异步并发爬取
大数据·爬虫·elasticsearch·搜索引擎
ONEYAC唯样8 小时前
YXC扬兴科技小型化有源晶振OT4JI-111-24M,提升红外热成像稳定性
人工智能·python·pygame
小宋10218 小时前
AI 爬虫把大学图书馆站点拖垮:按行为指纹给爬虫分类、按类发配额、用边缘缓存分层,以带宽成本结构和真实用户 P95 延迟定档
人工智能·爬虫·分类