您当前的位置:首页 > 新闻资讯 > 社会

利用“AI换脸”等音视频诈骗案件多发

时间:2023-05-25 09:12:03  来源:北京青年报  作者:

今年以来,ChatGPTGPT-4等技术的应用成为信息科技领域的热点,引起公众对AI技术的广泛关注和热情。昨日,中国互联网协会发文称,伴随着深度合成技术的开放开源,深度合成产品和服务逐渐增多,利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤的违法行为屡见不鲜。北京青年报记者查询发现,国内多地警方已经发布了相关案例。

利用“AI换脸”虚假视频诈骗已发生多起

据内蒙古包头警方消息,近日,福建省一知名企业家被境外诈骗团伙骗走430万元。在得知涉案的一张银行卡在包头市一银行后,包头警方立即介入,仅用10分钟便将钱款及时控制住,为受害人止损336万余元。

据当事人郭先生介绍,4月20日当天,骗子冒充他的至交好友,通过微信联系到他,视频中谎称一个朋友在外地招标,需要430万元,且需要公对公账户过账,想要借用郭先生公司的账户走一下账。“从头至尾都没有和我提借钱的事情,就说会先把钱给我打过来,再让我给他朋友账户转过去。因为在视频中也确认了面孔和声音,所以我放松了戒备。当时已经临近中午,对方又说招标款12点前必须到账,基于对好友的信任,还没等钱到我的账户,我就先把这430万元给对方打了过去。”郭先生说。

钱款打过去后,郭先生给好友发了一条微信,称事情已经办妥。到对方回过来是一个问号,一问才知道自己竟遇上了AI换脸的骗局。

多地警方密集提醒 涉及转账交易要格外留意

北京青年报记者注意到,针对AI换脸诈骗的案件,近期国内各地警方密集进行了提醒。

温州警方表示,不法分子通常会先盗取QQ或微信号,从QQ相册或微信朋友圈内找到号主照片、视频、声音等,大面积找好友聊天,看到有回复的,使用“AI换脸”技术与之进行视频聊天,再找各种理由骗钱,受害人往往看到视频聊天界面后,以为是好友本人,便相信转账。

武汉警方提醒,在涉及转账交易等行为时,个人要格外留意。

对自称“领导”“朋友”的转账要求务必提高警惕

中国互联网协会则表示,如果有人自称“家人”“朋友”“老师”“领导”,通过社交软件、短信、电子邮件等,以各种方式和理由诱导你转账汇款,务必第一时间提高警惕。在AI时代,文字、声音、图像和视频都有可能是深度合成的。在转账汇款、资金往来这样的典型场景,要通过回拨对方手机号等额外通信方式核实确认,不要仅凭单一沟通渠道,未经核实就直接转账汇款,无论对方是谁。

案例

AI除了换脸换声扮好友还能合成不雅视频敲诈

浙江温州市公安局也通报过一起利用AI换脸技术进行诈骗的案件。在这起案件中,陈先生收到了身处国外的好友“阿诚”发来的私信,在添加了对方的新微信后,对方表示自己最近准备回国,但购买机票的过程中遇到了难题,回国的机票已付了8000元定金,受到国际漫游限制,联系不上国内航空公司的经理,希望将剩余的钱转给陈先生,请他帮忙联系经理进行付款。

对于此人的身份,陈先生有所怀疑,但对方随后打来视频电话,视频中“阿诚”和陈先生挥着手打招呼很是亲切,没过一会儿,对方就挂断了视频电话,称国外网络很卡。陈先生渐渐打消了心中的顾虑,并在“阿诚”一步步的“指导”下添加了“航空公司经理”的微信替“阿诚”支付了4.9万元。经过警方核实,骗子用AI换脸技术,利用阿诚社交平台上先前发布的视频,截取了面部视频画面并进行了“换脸”,从而对陈先生进行了诈骗。

此外,江苏常州警方也通报了一起类似案例。小刘的初中同学“小韩”通过QQ联系小刘,准备借6000元钱, “小韩”先发来一条语音,声音很像本人,后来又给小刘打了一通视频电话。小刘转完钱后越想越不对劲,觉得“小韩”表情僵硬,于是拨打小韩的电话,没想到小韩的QQ账号被盗了

北青报记者注意到,除了通过AI换脸,然后视频通话的手段直接诈骗钱财,还有诈骗分子通过AI不雅视频的方式进行诈骗,诈骗分子用AI技术合成诈骗对象的个人不雅照,然后以举报、散播等手段威胁当事人,要求诈骗对象汇款。

在温州警方通报的一起案件中,温州的陈先生遭遇“AI换脸”敲诈,他收到一封“私家侦探”的敲诈信,同时附带了他与一名女子的所谓的不雅视频,信件中对方要求陈先生收件后速与其联系,不要心存侥幸,并威胁将视频散播到互联网。因为知道这是一段合成视频,但不知如何处理,陈先生向警方求助。目前此案件正在调查中。

本组文/本报记者 李铁柱 (来源:北京青年报)



Tags:AI换脸   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
“只要能看到脸的都能换” 滥用“AI换脸”技术伪造女明星涉黄视频 法院判了!
“AI换脸”相信大家都不陌生。只需要一张照片,通过人工智能深度合成技术,任何人都能成为视频中的主人公,甚至连表情和动作都能以假乱真。然而,这项新技术,却让一些人产生了不良想...【详细内容】
2024-03-22  Search: AI换脸  点击:(11)  评论:(0)  加入收藏
ATFX:警惕“AI换脸”诈骗,眼见不一定为实
各位朋友们,请务必提高警惕!最近,福建省一家科技公司的法定代表人郭先生遭遇了令人震惊的诈骗案件。他仅仅接了一通视频电话,就被不法分子骗走了高达430万元的巨款。据了解,2023...【详细内容】
2024-03-15  Search: AI换脸  点击:(17)  评论:(0)  加入收藏
“AI换脸”诈骗防不胜防
转自:北京商报员工被要求向指定账户转账,老板却是AI换脸后的“冒牌货”?就在2月,一则涉案金额高达2亿港元的AI换脸诈骗案引发了高度关注。如果说2023 年是生成式AI的元年,那么202...【详细内容】
2024-03-15  Search: AI换脸  点击:(20)  评论:(0)  加入收藏
Sora来袭AI换脸门槛降低 网络安全公司何以应对新风险?
    本报记者 丁蓉    近期,中国香港警方披露了一起AI(人工智能)“多人换脸”诈骗案,涉案金额高达2亿港元。一家跨国公司香港分部的职...【详细内容】
2024-02-29  Search: AI换脸  点击:(38)  评论:(0)  加入收藏
防范“AI换脸”诈骗 你需要的知识都在这儿了
近年来,随着人工智能技术的进步,一些不法分子开始利用AI技术融合他人面孔和声音,制造非常逼真的合成图像来实施新型网络诈骗,这类骗局常常会在短时间内给被害人造成较大损失。我...【详细内容】
2024-02-28  Search: AI换脸  点击:(29)  评论:(0)  加入收藏
“AI换脸诈骗”如何防范?视频“变脸”相似度达80%!
最近,视频网站上通过人工智能换脸,《亮剑》里的主角用英语飙起了台词,通过小程序用户也可以将自己变成电影里的人物。新技术带来欢乐的同时,也带来了一种名为“AI换脸诈骗”的新...【详细内容】
2023-11-05  Search: AI换脸  点击:(205)  评论:(0)  加入收藏
“AI换脸”或可预防?一起来看高科技如何“打败”高科技
人民网福州9月12日电 (黄东仪、林晓丽)9月11日,由中央宣传部、中央网信办、教育部、工业和信息化部等十部门联合举办的2023年国家网络安全宣传周在福建福州正式拉开序幕。作...【详细内容】
2023-09-12  Search: AI换脸  点击:(265)  评论:(0)  加入收藏
AI换脸诱导欺骗未成年人?短视频平台开展专项整治
“AI换脸”“AI绘图”“一键脱衣”……借助AI等新兴技术,一些有害内容正隐形变异,将隐秘的手伸向未成年人。8月16日,记者获悉,自6月28日起,快手开展为期2个月的未成...【详细内容】
2023-08-17  Search: AI换脸  点击:(117)  评论:(0)  加入收藏
“AI换脸”,515人落网!何种诈骗发案率最高?如何才能“道高一丈”
电信网络诈骗花样翻新 如何守好“钱袋子”?一公司法人代表被骗子利用人工智能“换脸”技术诈骗430万元,某单位一工作人员被“假领导”诈骗近98万元……近期,多起电...【详细内容】
2023-08-11  Search: AI换脸  点击:(144)  评论:(0)  加入收藏
公安部:严打泄露身份证照片等犯罪,破获“AI换脸”案79起
中新经纬8月10日电 公安部网络安全保卫局副局长李彤10日表示,依托“净网”专项行动,组织专项会战,严打泄露身份证照片等图像信息的犯罪源头,破获“AI换脸”案件79起,抓获犯罪嫌疑...【详细内容】
2023-08-10  Search: AI换脸  点击:(371)  评论:(0)  加入收藏
▌简易百科推荐
在饭局上喝酒,要学会3句“万能开场白”,让大家对你刮目相看
在饭局上喝酒,是一个社交场合的重要环节。作为一个有见识的人,学会几句“万能开场白”不仅能活跃气氛,还能让人们对你刮目相看。以下就是三个可以用于各种场合的万能开场白,希望...【详细内容】
2024-04-09  小韬爱喝酒    Tags:饭局   点击:(5)  评论:(0)  加入收藏
三证齐全,中国“飞的”不远了?
【环球时报记者 丁雅栀 李炫旻 环球时报驻英国、德国特约记者 纪双城 青木】4月7日,中国民用航空局在广州为亿航智能EH216-S无人驾驶载人航空器系统颁发生产许可证,加上去年取...【详细内容】
2024-04-09    环球网  Tags:飞的   点击:(5)  评论:(0)  加入收藏
收入越高,生育率越低!真的吗?
近年来,发达国家的生育率下降到了低于维持当前人口水平所需的更替水平,全球生育率也紧随其后。生育率下降导致人口呈指数级减少。有分析指出,根据经济增长模型的预测,人口减少可...【详细内容】
2024-04-09    华尔街见闻  Tags:生育率   点击:(7)  评论:(0)  加入收藏
网约车抽成“套路”多:订单倒卖、高速费抽佣 如何保障司机收入?
今年是刘先生在广州开网约车的第四年。他每天上午10点开工,晚上11点左右收工,日均上线时长约12小时,日均流水500多块钱,每月休息两天。除去租车、充电的成本,“每天能赚200多至30...【详细内容】
2024-04-09    21世纪经济报道  Tags:网约车   点击:(6)  评论:(0)  加入收藏
网约车平台“套娃式”抽佣乱象频现
近期,12345市民热线陆续接到了不少网约车司机关于平台抽佣过高、抽佣不透明等等的投诉和吐槽,2022年以来,网约车平台抽佣默认在30%这一隐形上限,然而受订单层层转卖、一口价等因...【详细内容】
2024-04-08    看看新闻KNEWS  Tags:网约车   点击:(1)  评论:(0)  加入收藏
网约车抽成“套路”多:订单倒卖、高速费抽佣,如何保障司机收入?
今年是刘先生在广州开网约车的第四年。他每天上午10点开工,晚上11点左右收工,日均上线时长约12小时,日均流水500多块钱,每月休息两天。除去租车、充电的成本,“每天能赚200多至30...【详细内容】
2024-04-08    21世纪经济报道  Tags:网约车   点击:(5)  评论:(0)  加入收藏
多省份上调!你的工资不能低于这个数
全国各地最低工资标准榜单迎来更新,多个省份有所上调。近日,人社部官网发布了全国各省、自治区、直辖市最低工资标准情况(截至2024年4月1日)。上海、江苏、浙江、北京月最低工...【详细内容】
2024-04-08  诸葛瑞鑫  国是直通车  Tags:工资   点击:(2)  评论:(0)  加入收藏
香港人买爆深圳,“反向代购”团队月入20万
香港居民北上消费的热情还在持续。继周末拉着行李箱挤爆深圳山姆店囤货之后,香港居民现在甚至开始涌入深圳城中村、街市、路边摊档,购买更具性价比的食品和日用品。近日,恰逢香...【详细内容】
2024-04-07  林京  Tech星球  Tags:反向代购   点击:(4)  评论:(0)  加入收藏
香港人为何会买爆深圳?
记得十年前,内地居民还很热衷于港澳游,每逢去香港都会大包小包往回带。后来,又慢慢发展了代购产业,香港人一度不满蜂拥而至的大陆游客。然而,三十年河东,三十年河西,如今内地人不再...【详细内容】
2024-04-06    郎club  Tags:深圳   点击:(2)  评论:(0)  加入收藏
大厂离职开咖啡馆:“没有比上班性价比更高的事了”
 “咖啡店营业额一周多一周少是正常的,这个现象叫大小周。大周起飞,小周躺平,听天由命。营业时间早10晚10,一周六天,做真正的996。要经常和咖啡师对齐产品和服务颗粒度,不然出品...【详细内容】
2024-04-03    三联生活周刊  Tags:上班   点击:(6)  评论:(0)  加入收藏
站内最新
站内热门
相关头条
  • · 在饭局上喝酒,要学会3句“万能开场白”,让大家对你刮目相看
  • · 网约车抽成“套路”多:订单倒卖、高速费抽佣 如何保障司机收入?
  • · 网约车抽成“套路”多:订单倒卖、高速费抽佣,如何保障司机收入?
  • · 大厂离职开咖啡馆:“没有比上班性价比更高的事了”
  • · 虚假宣传、捆绑销售,买车位的坑你遇过吗?
  • · 同城12元!跨城40元!无人机“闪送”来了!快递业迎大变革?
  • · 跳出“自动续费”陷阱
  • · 12306上线“同车换乘”功能
  • · 全国入春进程图出炉!华北多地提早迈入春天门槛
  • · 清明小长假前夜火车票今日开抢!国内航线假期机票均价超730元
  • · 一个家庭怎么才算富裕?3个条件满足一个就行,看看你达标了吗?
  • · 为啥感觉中国人月薪过万好像成了家常便饭?揭开背后的真相!
  • · 3亿人的养老挑战: 人财物如何做好准备
  • · 听说你在大城市穷笑了,要不要回县城?
  • · 春运遇上暴雪!高铁降速停运,为啥绿皮车还能“冒雪前行”?
  • · 家庭富不起来的“4个”原因,快看一下你家有没有?赶快消除掉!
  • · 家庭总资产100万处于什么阶层?
  • · 北京推进地铁、市郊铁路一票通行,支出满百元可享受月累计优惠
  • · 市监总局揭秘“鬼秤”作弊方法:人为改变重量修改参数
  • · “AI客服快把人逼疯了!”智能客服答非所问 人工客服要排长队
  • 站内头条