您当前的位置:首页 > 电脑百科 > 安全防护 > 诈骗

AI换脸冒充好友诈骗430万,听听网络安全专家们怎么说?

时间:2023-05-24 10:33:30  来源:中国青年网  作者:

5月20日,“平安包头”发布微信公众号文章,称5月8日,包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件,警银联动成功紧急止付涉嫌电信诈骗资金330多万元。

事情起始于4月20日11时40分左右,福州市某科技公司法人代表郭先生的好友突然通过微信视频联系到他,两人经过短暂聊天后,好友告诉郭先生,自己的朋友在外地投标,需要430万元保证金,且需要公对公账户过账,所以想要借用郭先生公司的账户走一下账。

好友向郭先生要了银行卡号,声称已经把钱打到郭先生的账户上,还将银行转账底单的截图通过微信发给了郭先生。基于视频聊天信任的前提下,郭先生没有核实钱是否到账,于11时49分先后分两笔把430万元给对方打了过去。钱款转账后,郭先生给好友微信发了一条消息,称事情已经办妥。但让他没想到的是,好友回过来的消息竟然是一个问号。

郭先生拨打好友电话,对方说没有这回事,他这才意识到竟然遇上了“高端”骗局,对方通过智能AI换脸技术,佯装成好友对他实施了诈骗。

如果是微信好友账号直接进行AI换脸换声音,的确容易让人提前产生“好友信任度”。

第一财经记者据此联系微信方面与包头市公安局,截至发稿,微信方面暂未提供技术方面的具体回应,包头市公安局宣传科方面表示会与办案民警进行信息再确认,截至发稿,暂未进行信息更新。不过据第一财经记者多方了解,此次联系郭先生、发起视频聊天的微信号码,系郭先生此次新添加好友的微信账号。

那么,微信视频通话能够轻易被“换脸”吗?

多位网络安全专家对微信视频中实时换脸换声的可行性展开了专业探讨。一位网络安全方面人士对记者表示,如果要进行不易被识别的、专业级别的AI换脸换声,需要在实验室环境条件进行,后者为其提供较强的计算机性能支撑,如果单凭手机性能,仅能提供P图级别的换脸,极易被识别。

对于该事件,奇安信安全专家裴智勇对第一财经记者表示,首先,所谓微信账号“新号”“旧号”本身更多是一种主观感觉,骗子冒充朋友小号,聊上个把月再实施诈骗,受害者也会主观上认为这是一个老号。其次,该诈骗案仍有许多细节尚未披露,仅仅通过一次短暂而逼真的AI视频聊天,就能骗走几百万,不太现实,中间一定还有很多复杂的过程。不应将原本复杂的诈骗过程简单化、标签化。

另外,裴智勇还对记者表示,以现有的技术发展来看,虽然完成相关诈骗过程不是完全没有可能,但成本太高,所以在现实中被使用的概率也很低。

具体实施技术难度方面,裴智勇举例称,如在视频聊天过程中,要让受害者看到AI合成的视频而不是摄像头直接捕获的视频,就必须利用安全漏洞劫持摄像头传输假视频,技术难度极高。若真是这么高级的漏洞,一般不会被用在普通人身上,因为一旦诈骗失败,漏洞暴露,漏洞也就作废了。骗子一般不会冒这个险。

再比如,尽管在视频中进行人脸替换,已经是非常成熟的技术。但想要在实时对话交流过程中,进行实时的人脸替换、表情捕捉、语音变声,还能以假乱真,这个技术水平已经超过绝大多数的高科技公司了。现实情况更有可能是骗子首先利用花言巧语骗受害者忽略细节,之后再发送合成视频实施诈骗。

综合来说,裴智勇认为,攻击者要同时具备盗取好友的微信账号、利用漏洞劫持摄像头篡改视频数据、实时变脸与实时变声且天衣服缝的技术能力,至少是难度极大、成本极高。很多高科技公司在实验室里也未必能完美完成这些挑战。所以,相关事件的文字描述,在细节上很可能和真实情况有一定的差异。

此外,裴智勇认为对于骗子来说,还有一项巨大的挑战,就是骗子必须对受害者和其朋友的外貌、声音、行为习惯,思维方式,相互关系、业务往来等都做到非常熟悉,否则就极易穿帮。所以,骗子一定是经过了长期的潜伏和精心的策划,也不能排除熟人作案的可能。

有关真相还需警方的进一步披露,但该事件仍为民众敲响警钟。奇安信安全专家田平对第一财经记者表示,AI诈骗是传统的诈骗手法利用了新技术的一种混合诈骗方式,从诈骗剧本来说还是传统的冒充熟人、冒充领导等手段,但是其中的面部仿真、声纹仿真使得被害人放松警惕,更容易被骗。

从预防角度来说,田平提醒民众需要确保如下三点:第一,不要点击任何不熟悉人员发来的任何未知网址,下载不明来路的App,规避掉中木马的风险来保证个人信息机密以及手机等设备的安全受控;第二,个人信息会通过多重渠道造成泄露,所以在涉及资金转账等高风险行为时,需要主动多方式去确认对方身份,例如通过电话回拨,沟通中询问近期见面时间地点等内容;第三,社会各界也应当积极遵从2022年底实施的《反诈法》各条例,对聊天工具、转账双方的身份加以强管理和确认,对于高风险行为采取审慎允许的态度防止诈骗行为的发生。



Tags:AI换脸   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
“只要能看到脸的都能换” 滥用“AI换脸”技术伪造女明星涉黄视频 法院判了!
“AI换脸”相信大家都不陌生。只需要一张照片,通过人工智能深度合成技术,任何人都能成为视频中的主人公,甚至连表情和动作都能以假乱真。然而,这项新技术,却让一些人产生了不良想...【详细内容】
2024-03-22  Search: AI换脸  点击:(11)  评论:(0)  加入收藏
ATFX:警惕“AI换脸”诈骗,眼见不一定为实
各位朋友们,请务必提高警惕!最近,福建省一家科技公司的法定代表人郭先生遭遇了令人震惊的诈骗案件。他仅仅接了一通视频电话,就被不法分子骗走了高达430万元的巨款。据了解,2023...【详细内容】
2024-03-15  Search: AI换脸  点击:(17)  评论:(0)  加入收藏
“AI换脸”诈骗防不胜防
转自:北京商报员工被要求向指定账户转账,老板却是AI换脸后的“冒牌货”?就在2月,一则涉案金额高达2亿港元的AI换脸诈骗案引发了高度关注。如果说2023 年是生成式AI的元年,那么202...【详细内容】
2024-03-15  Search: AI换脸  点击:(20)  评论:(0)  加入收藏
Sora来袭AI换脸门槛降低 网络安全公司何以应对新风险?
    本报记者 丁蓉    近期,中国香港警方披露了一起AI(人工智能)“多人换脸”诈骗案,涉案金额高达2亿港元。一家跨国公司香港分部的职...【详细内容】
2024-02-29  Search: AI换脸  点击:(38)  评论:(0)  加入收藏
防范“AI换脸”诈骗 你需要的知识都在这儿了
近年来,随着人工智能技术的进步,一些不法分子开始利用AI技术融合他人面孔和声音,制造非常逼真的合成图像来实施新型网络诈骗,这类骗局常常会在短时间内给被害人造成较大损失。我...【详细内容】
2024-02-28  Search: AI换脸  点击:(29)  评论:(0)  加入收藏
“AI换脸诈骗”如何防范?视频“变脸”相似度达80%!
最近,视频网站上通过人工智能换脸,《亮剑》里的主角用英语飙起了台词,通过小程序用户也可以将自己变成电影里的人物。新技术带来欢乐的同时,也带来了一种名为“AI换脸诈骗”的新...【详细内容】
2023-11-05  Search: AI换脸  点击:(205)  评论:(0)  加入收藏
“AI换脸”或可预防?一起来看高科技如何“打败”高科技
人民网福州9月12日电 (黄东仪、林晓丽)9月11日,由中央宣传部、中央网信办、教育部、工业和信息化部等十部门联合举办的2023年国家网络安全宣传周在福建福州正式拉开序幕。作...【详细内容】
2023-09-12  Search: AI换脸  点击:(265)  评论:(0)  加入收藏
AI换脸诱导欺骗未成年人?短视频平台开展专项整治
“AI换脸”“AI绘图”“一键脱衣”……借助AI等新兴技术,一些有害内容正隐形变异,将隐秘的手伸向未成年人。8月16日,记者获悉,自6月28日起,快手开展为期2个月的未成...【详细内容】
2023-08-17  Search: AI换脸  点击:(117)  评论:(0)  加入收藏
“AI换脸”,515人落网!何种诈骗发案率最高?如何才能“道高一丈”
电信网络诈骗花样翻新 如何守好“钱袋子”?一公司法人代表被骗子利用人工智能“换脸”技术诈骗430万元,某单位一工作人员被“假领导”诈骗近98万元……近期,多起电...【详细内容】
2023-08-11  Search: AI换脸  点击:(144)  评论:(0)  加入收藏
公安部:严打泄露身份证照片等犯罪,破获“AI换脸”案79起
中新经纬8月10日电 公安部网络安全保卫局副局长李彤10日表示,依托“净网”专项行动,组织专项会战,严打泄露身份证照片等图像信息的犯罪源头,破获“AI换脸”案件79起,抓获犯罪嫌疑...【详细内容】
2023-08-10  Search: AI换脸  点击:(371)  评论:(0)  加入收藏
▌简易百科推荐
注意!密码、验证码都没说,钱是怎么被骗走的?
转自:科普中国“我密码和验证码都没有给他,为什么钱还是被骗子骗走了?”骗子是怎么做到的呢?真实案例今年1月,武汉市民张某在家接到一陌生电话,电话自称是某平台的客服,告诉张某购...【详细内容】
2024-04-11    科普中国  Tags:被骗   点击:(2)  评论:(0)  加入收藏
官方通报电诈新套路:男子因机票退改签险些损失375万
快科技4月6日消息,据“海宁公安”官方公众号介绍,近期有一男子到尖山派出所求助,称自己遇到诈骗。据介绍,对方自称是航空公司客服,说周先生的航班推迟了,可以帮他退票。但是会扣除...【详细内容】
2024-04-07    快科技  Tags:电诈   点击:(8)  评论:(0)  加入收藏
银行卡在手里,钱怎么被人刷光了?
日常生活中,我们在使用信用卡时,难免会遇到需要挂失或补发的意外时刻。各大银行为了方便客户,通常会对此提供线上快捷服务,但这些便民服务却成为了不法分子眼中可以钻的空子。日...【详细内容】
2024-03-24    紫牛新闻  Tags:银行卡   点击:(6)  评论:(0)  加入收藏
“知识付费”诈骗超千万元 上海警方侦破“直播授课”诈骗案
中新网上海3月19日电 (记者 李姝徵)无门槛0元学剪辑课,帮助开通“橱窗”功能,精准推送粉丝群体,轻松获取高额收益……直播间内购买所谓课程后,却发现只花钱不赚钱。...【详细内容】
2024-03-19    中国新闻网  Tags:知识付费   点击:(22)  评论:(0)  加入收藏
警惕老骗术新“马甲”!起底民族资产解冻类诈骗套路
我们来看看这样一批投资项目:中央数字货币、数字经济养老……怎么样,看着是不是挺高大上的?如果再有人告诉你,“这项目的资金主要来自国家,属于国家机密,千万不要告诉...【详细内容】
2024-03-17    央视网  Tags:骗术   点击:(16)  评论:(0)  加入收藏
“AI换脸”诈骗防不胜防
转自:北京商报员工被要求向指定账户转账,老板却是AI换脸后的“冒牌货”?就在2月,一则涉案金额高达2亿港元的AI换脸诈骗案引发了高度关注。如果说2023 年是生成式AI的元年,那么202...【详细内容】
2024-03-15    北京商报  Tags:AI换脸   点击:(20)  评论:(0)  加入收藏
防范“AI换脸”诈骗 你需要的知识都在这儿了
近年来,随着人工智能技术的进步,一些不法分子开始利用AI技术融合他人面孔和声音,制造非常逼真的合成图像来实施新型网络诈骗,这类骗局常常会在短时间内给被害人造成较大损失。我...【详细内容】
2024-02-28    央视网  Tags:AI换脸”   点击:(29)  评论:(0)  加入收藏
套个白大褂,假装是医生!警惕网络“伪科普”伤人
套个白大褂,假装是医生!警惕网络“伪科普”伤人半月谈记者 梁姊 闵尊涛 杨稳玺 陈柱佐“每两个人里就有一个带有幽门螺旋杆菌”“孩子用嘴呼吸是腺样体肥大,一定要早治疗”“尿...【详细内容】
2024-02-23    新华社  Tags:伪科普   点击:(42)  评论:(0)  加入收藏
香港发生罕见AI诈骗案 涉案金额高达1.84亿人民币
近日,中国香港发生了一起规模巨大的AI“深伪”诈骗案,涉案金额高达1.84亿人民币。该案件引起了广泛关注,成为香港历史上损失最惨重的“变脸”案例,并首次涉及到了使用AI技术进行...【详细内容】
2024-02-06    中关村在线  Tags:AI诈骗   点击:(56)  评论:(0)  加入收藏
新手段!收到退税邮件别点
据@上海反诈中心 消息,近日有不法分子通过非法手段,盗取企业或个人邮箱,冒充公司人员向员工发邮件。以退税申报、工资补贴等名目,诱导受害人扫码登录钓鱼网站。员工收到公司邮箱...【详细内容】
2023-12-26    国是直通车  Tags:退税邮件   点击:(124)  评论:(0)  加入收藏
站内最新
站内热门
站内头条