警惕!当心AI诈骗!


本文参照材料有:

鄂尔多斯新闻公众号、澎湃新闻网、搜孤新闻、腾讯网等

AI换脸诈骗实例(就发生在近期)

事例一:

近期

"AI换脸"新型诈骗频发和你视频对话的可能不是本人!

近日,东胜市民李女士遭遇了冒充熟人的诈骗,被骗30万元。诈骗分子冒充李女士的同学"贾某",伪造微信账号添加李女士后,主动提出视频聊天。视频中,李女士看到了"贾某"本人,对方称信号不好不便继续视频,打完招呼后转入文字聊天。

"贾某"说他有个领导的亲戚正在参加一个项目竞标,急需周转资金,自己不便出面,想借李女士的名义将钱转给对方。"贾某"向李女士索要了银行卡号,声称已经把钱转到了李女士的账户上,还把银行转账底单的截图(PS图片)通过微信发给李女士。基于对好友的信任,加上已经通过视频聊天核实了身份,李女士没有核实钱款是否到账,就把自己全部存款30万元转了过去。对方要求李女士借钱继续转账,李女士产生了疑虑,拨打好友电话,才知道原来遇上了高端的电信诈骗。骗子通过智能AI换脸和拟声技术,佯装好友对她实施了诈骗。

事例二

据报道,福州市某科技公司法人代表郭先生,在与好友视频聊天时,被对方以借用账户转账为由,10分钟内骗走了430万元。事后才发现,视频中的好友其实是骗子利用AI换脸和拟声技术伪造的。

这是近期全国范围内出现的一种新型电信诈骗,该诈骗利用AI人工智能,通过"换脸"和"拟声"技术模仿受害人的朋友或亲戚的声音和外貌,以此骗取受害者的信任,进行网络诈骗。

据包头警方介绍,这种诈骗的成功率高达100%,已经造成了多起重大经济损失。

什么是"AI"诈骗

诈骗分子利用AI换脸技术,提前制作了冒充领导或熟人的视频,而并不是实时的视频互动通话。

其本质就是冒充领导和熟人类诈骗的升级版。

首先诈骗分子通过非法渠道获取受害人的通讯录和社会关系等信息,使用领导或熟人的姓名和照片,包装社交账号并添加受害人为好友。

然后诈骗分子会使用通过AI换脸换声技术合成的熟人视频,通过视频通话的方式给受害人播放,骗取受害人信任。并且为了防止受害人发现破绽,视频通话的时间往往十分短暂,诈骗分子会以正在开会等理由故意挂断电话,要求转入文字聊天。

随后,诈骗分子会以有事不方便出面等理由要求受害人代为转账,以此达到诈骗目的。

AI诈骗花式来袭,我们该如何防范?

1.请广大市民一定要注意保护好个人信息,以防被不法分子掌握信息而实施诈骗。

2.眼见不一定为实,有图也不一定就是真相。

3.涉及转账、汇款等情况时,务必要通过多方渠道核实并确定对方身份。

4.如果有人要你帮忙过账,无论多大的领导,多熟悉的人,必须电话或当面核实,而且要等钱到账之后再进行转账。

一些特殊群体(如青少年和老年人)提供特定建议

更为关键的是,每个居民都是个人信息安全的第一责任人,需加强保护意识,防止信息泄露,尤其是不能轻易提供人脸、指纹等个人生物信息给他人。以下一些建议,或可帮助个人辨别AI换脸诈骗情况。

++不寻常的请求或交流:++ 如果你收到了一条突然出现的请求或消息,其中包含进行不寻常行为的要求,例如转账款项、提供个人信息等,需要保持警惕,不轻易回应。

++异常的语言和行为:++ 尽管AI换脸技术可以逼真地模仿原始人物的语言和行为,但仍可能存在一些异常之处。例如不连贯的语句、奇怪的语法错误、与平时不符的态度和行为等。如果你感觉对方的语言和行为稍有"不同寻常",就要立刻警觉

++细致观察面部特征和动作:++ 使用AI换脸技术模仿原始人物的面部特征和动作,目前还不能在细节上做到百分百完美匹配,因此需要留意细节上的异常,例如眼睛的移动不协调、面部表情不自然、唇形不匹配等。如果观察到类似情形,就要怀疑其真实性。

++认真核实身份和信息:++ 在收到涉及重要决策或敏感信息的请求时,一定要坚持在第一时间核实对方的身份和信息,例如直接与其进行电话或面对面沟通,而不仅仅依赖于在线交流

++留意平台的警示:++部分社交媒体和在线平台已经采取了一些措施来标识或警告AI换脸生成的内容。如果您在社交媒体或在线平台上看到有关特定账户或内容的紧急提示,须保持警醒。

与此同时,日常生活中要时刻注意不泄露个人信息。比如,前段时间上海街头有许多小贩手持印有二维码的纸牌与路人搭讪,说只要扫一扫就可以免费赠送大鹅公仔。看似轻无足轻重的请求和萌萌的大鹅,很容易让人丧失警惕。然而,只要轻轻一扫,窃取个人信息、植入恶意软件和病毒,非法访问手机相册、麦克风等风险就可能接踵而至。

因此,每个人随时都要保持警惕和谨慎,不要随意相信和执行不寻常的请求。如果怀疑自己遇到了AI换脸诈骗,最佳做法是暂停与对方交流,核实其信息和身份,咨询专业人士,并及时向执法机构报告。

治理和防范"AI换脸"等新型诈骗犯罪,仍然需通过立法、治理和公共教育等各方多管齐下地努力,并合理引导科技向善,才能应对潜在威胁,维护社会安全与稳定。


城市因集聚而诞生。

一座城市的公共政策、人居环境、习俗风气塑造了市民生活的底色。

++澎湃城市观察,聚焦公共政策,回应大众关切,探讨城市议题。++

相关推荐
可愛小吉20 分钟前
Python 课程14-TensorFlow
开发语言·人工智能·python·tensorflow
Elastic 中国社区官方博客40 分钟前
Elasticsearch:检索增强生成背后的重要思想
大数据·人工智能·elasticsearch·搜索引擎·全文检索
路人与大师1 小时前
生成式语言模型技术栈
人工智能·语言模型·自然语言处理
网络研究院1 小时前
大型语言模型 (LLM) 劫持攻击不断升级,导致每天损失超过 100,000 美元
网络·人工智能·安全·语言模型·攻击·劫持
jia V iuww5201 小时前
数据分析
人工智能·数据挖掘·数据分析
AI第一基地2 小时前
推荐系统-电商直播 多目标排序算法探秘
人工智能·深度学习·排序算法·transformer·知识图谱·word2vec
我是瓦力2 小时前
球形包围框-Bounding Sphere-原理-代码实现
人工智能·python·深度学习·计算机视觉·3d
开MINI的工科男2 小时前
【笔记】自动驾驶预测与决策规划_Part1_自动驾驶决策规划简介
人工智能·笔记·自动驾驶
网络研究院2 小时前
企业急于采用人工智能,忽视了安全强化
网络·人工智能·安全·工具·风险·企业
jndingxin2 小时前
OpenCV特征检测(3)计算图像中每个像素处的特征值和特征向量函数cornerEigenValsAndVecs()的使用
人工智能·opencv·计算机视觉