您当前的位置:首页 > 新闻资讯 > 社会

AI换脸诈骗爆发?不必恐慌,分分钟转走百万没那么简单!

时间:2023-05-28 10:48:48  来源:钱江晚报  作者:

近日,AI换脸诈骗案,引发广泛关注。

继包头警方发布“10分钟被AI换脸骗走430万”事件后,5月25日,安徽安庆市4月发生的又一起AI换脸诈骗事件被曝光。这次诈骗金额达245万元,且整个诈骗过程时间更短,只有9秒钟。

对此,有人对近几年持续火爆的AI技术产生了疑问。AI换脸诈骗正在全国大规模爆发了吗? 5月26日,多位反诈民警和专家表示,目前AI换脸诈骗的案例并不多,主要是受害者先入为主认为是朋友发来的视频,才有了后续“AI换脸”的陷阱。

不过,市面上的确有一些AI换脸教程正在流出。这种利用新技术,拿捏着受害者心态的“高端”骗局,我们该如何防范呢?

AI换脸正在全国爆发?

AI诈骗之所以备受社会关注、甚至引发恐慌,主要原因在于AI诈骗是模仿真人声音和面部实施诈骗,针对个人信息定制的“专属剧本”。诈骗成功率非常高。

在包头曝光的案件中,骗子就是盗用受骗人好友微信账号,利用AI换脸和拟声技术佯装好友,通过视频聊天成功对受骗人实施诈骗。

多地警方提醒,AI诈骗的成功率接近100%。亲友间网络上借钱更要防范此类诈骗,避免个人信息被别有用心者盗用。

诈骗成功率如此之高,网友不禁直呼“防不胜防”,开始担心刷脸支付、小区门禁人脸识别等各类应用场景下,个人隐私是否已经泄漏。

AI换脸诈骗正在全国爆发了吗?事实并非如此。

5月26日,多名反诈民警告诉潮新闻记者,在实时视频中进行专业级别的AI换脸变声,不卡顿、肉眼难以识别,在技术上并非易事。对设备和技术要求极高。

北京社科院研究员王鹏同样认为,AI技术与直播、实时通讯视频结合,要具有一定交互互动性,技术门槛并不低。

市面上几十元的AI换脸教程,实际上,更类似于PS(图像处理)。有媒体曾体验过某电商平台上39.9元的AI换脸技术。卖家提供的教学内容显示,用户根据指引,完成登录、提取脸部数据、训练模型、换脸输出视频等步骤,就能轻松实现“AI换脸”的视频制作。主要适用于拍照场景、影视剧片段的替换合成。

「AI孙燕姿」在各大视频平台走红图源B站

既然仿真技术上较难操作,那为啥频频有人被骗呢?一位反诈民警向记者透露,诈骗分子主要是盗用并伪造好友身份,利用日常话术,赢得了受害者信任,换脸视频只是进一步增加可信度。

比如,安庆何先生被骗的案例中,其微信“好友”突然发起视频通话,电话接通后,何先生看到“好友”正在一间会议室内,并借故会议有事,通过QQ要求周转资金,导致何先生被骗。

“说到底还是电信诈骗的延伸。这些游走在法律边缘的AI技术黑灰产业链,增加了技术被恶意使用的风险。”王鹏说。

如何防范此类诈骗事件?

由此可见,现在打着AI名义的诈骗,还不能算严格意义上的换头换脸。

技术本身是中性的,关键是由谁来运用。这也应该给有关部门敲响警钟了。

与普通以口头诈骗为主的电信诈骗相比,AI诈骗迷惑性更强,辨识更困难。AI技术可以综合运用语音、视频等手段,模仿亲友、熟人、领导等人的面容、声音,冒充亲友、熟人、领导等,从而以假乱真,别有用心地锁定诈骗对象后实施诈骗。

今年年初,微软推出了语音模型VALL-E,只需要3秒就能复制任何人的声音 图源微软

王鹏建议,首先,有关部门要加强监管,侵犯个人隐私及售卖信息的行为需严厉打击;其次,技术提供方、平台方,要落实主体责任,提高审查门槛,有效避免诈骗行为发生,尽到监督监管义务。

此外,换脸是否侵权,该如何约束?如果出了问题,平台、软件房是否应负相应责任?消费者该如何防范AI换脸诈骗骗局呢?潮新闻·法度工作室普法智囊团有话说。

陕西恒达律师事务所高级合伙人、知名公益律师赵良善表示,不法分子以AI换脸方式骗取他人的钱财,不仅侵犯了被换脸的人的肖像权,还侵害了被骗人的财产权。

同时,无论个人还是平台、AI换脸技术提供方,未经肖像权人同意,通过技术手段提取肖像,并擅自使用或上传至换脸App中供用户选择使用的行为都侵犯了他人肖像权。在民事责任方面,AI换脸技术提供方需承担连带民事责任,被侵权人可以通过提起民事诉讼方式要求AI换脸技术提供方承担停止侵权、赔礼道歉并赔偿损失等民事责任。

我们该如何识别AI骗局?赵良善律师来支招。

潮新闻·法度工作室普法智囊团律师成员

其一,AI换脸并非无任何破绽,可以要求对方用手指在其面部来回晃动,或者用手掌来挡住一部分脸,若面部出现扭曲,则断定是AI换脸。

其二, AI换脸一般利用他人的真人照片合成,因此,若仔细观察面部不眨眼,则是AI换脸。

其三,要时刻保持警惕,尤其是在通话或微信视频中对方声称是亲戚朋友,可以适当询问一些私人信息来验证对方的身份,尽量通过多渠道交叉验证,确认对方身份,再做决定。

其四,要定期更新密码和软件防护措施。为了防止个人信息被盗用,建议定期更改各类账号的密码,并且使用强密码。

其五,尽量使用官方网站或其他具有实名认证或安全验证功能的软件进行交流,防止对方冒用身份。

其六,尽量安装杀毒软件和防火墙等软件保护电脑与手机的安全,以防止恶意程序入侵致使信息泄露。同时,尽量下载如国家反诈App等防诈骗软件,以识别诈骗信息。

“转载请注明出处”



Tags:AI换脸   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
“只要能看到脸的都能换” 滥用“AI换脸”技术伪造女明星涉黄视频 法院判了!
“AI换脸”相信大家都不陌生。只需要一张照片,通过人工智能深度合成技术,任何人都能成为视频中的主人公,甚至连表情和动作都能以假乱真。然而,这项新技术,却让一些人产生了不良想...【详细内容】
2024-03-22  Search: AI换脸  点击:(11)  评论:(0)  加入收藏
ATFX:警惕“AI换脸”诈骗,眼见不一定为实
各位朋友们,请务必提高警惕!最近,福建省一家科技公司的法定代表人郭先生遭遇了令人震惊的诈骗案件。他仅仅接了一通视频电话,就被不法分子骗走了高达430万元的巨款。据了解,2023...【详细内容】
2024-03-15  Search: AI换脸  点击:(17)  评论:(0)  加入收藏
“AI换脸”诈骗防不胜防
转自:北京商报员工被要求向指定账户转账,老板却是AI换脸后的“冒牌货”?就在2月,一则涉案金额高达2亿港元的AI换脸诈骗案引发了高度关注。如果说2023 年是生成式AI的元年,那么202...【详细内容】
2024-03-15  Search: AI换脸  点击:(20)  评论:(0)  加入收藏
Sora来袭AI换脸门槛降低 网络安全公司何以应对新风险?
    本报记者 丁蓉    近期,中国香港警方披露了一起AI(人工智能)“多人换脸”诈骗案,涉案金额高达2亿港元。一家跨国公司香港分部的职...【详细内容】
2024-02-29  Search: AI换脸  点击:(38)  评论:(0)  加入收藏
防范“AI换脸”诈骗 你需要的知识都在这儿了
近年来,随着人工智能技术的进步,一些不法分子开始利用AI技术融合他人面孔和声音,制造非常逼真的合成图像来实施新型网络诈骗,这类骗局常常会在短时间内给被害人造成较大损失。我...【详细内容】
2024-02-28  Search: AI换脸  点击:(29)  评论:(0)  加入收藏
“AI换脸诈骗”如何防范?视频“变脸”相似度达80%!
最近,视频网站上通过人工智能换脸,《亮剑》里的主角用英语飙起了台词,通过小程序用户也可以将自己变成电影里的人物。新技术带来欢乐的同时,也带来了一种名为“AI换脸诈骗”的新...【详细内容】
2023-11-05  Search: AI换脸  点击:(205)  评论:(0)  加入收藏
“AI换脸”或可预防?一起来看高科技如何“打败”高科技
人民网福州9月12日电 (黄东仪、林晓丽)9月11日,由中央宣传部、中央网信办、教育部、工业和信息化部等十部门联合举办的2023年国家网络安全宣传周在福建福州正式拉开序幕。作...【详细内容】
2023-09-12  Search: AI换脸  点击:(265)  评论:(0)  加入收藏
AI换脸诱导欺骗未成年人?短视频平台开展专项整治
“AI换脸”“AI绘图”“一键脱衣”……借助AI等新兴技术,一些有害内容正隐形变异,将隐秘的手伸向未成年人。8月16日,记者获悉,自6月28日起,快手开展为期2个月的未成...【详细内容】
2023-08-17  Search: AI换脸  点击:(117)  评论:(0)  加入收藏
“AI换脸”,515人落网!何种诈骗发案率最高?如何才能“道高一丈”
电信网络诈骗花样翻新 如何守好“钱袋子”?一公司法人代表被骗子利用人工智能“换脸”技术诈骗430万元,某单位一工作人员被“假领导”诈骗近98万元……近期,多起电...【详细内容】
2023-08-11  Search: AI换脸  点击:(144)  评论:(0)  加入收藏
公安部:严打泄露身份证照片等犯罪,破获“AI换脸”案79起
中新经纬8月10日电 公安部网络安全保卫局副局长李彤10日表示,依托“净网”专项行动,组织专项会战,严打泄露身份证照片等图像信息的犯罪源头,破获“AI换脸”案件79起,抓获犯罪嫌疑...【详细内容】
2023-08-10  Search: AI换脸  点击:(371)  评论:(0)  加入收藏
▌简易百科推荐
在饭局上喝酒,要学会3句“万能开场白”,让大家对你刮目相看
在饭局上喝酒,是一个社交场合的重要环节。作为一个有见识的人,学会几句“万能开场白”不仅能活跃气氛,还能让人们对你刮目相看。以下就是三个可以用于各种场合的万能开场白,希望...【详细内容】
2024-04-09  小韬爱喝酒    Tags:饭局   点击:(5)  评论:(0)  加入收藏
三证齐全,中国“飞的”不远了?
【环球时报记者 丁雅栀 李炫旻 环球时报驻英国、德国特约记者 纪双城 青木】4月7日,中国民用航空局在广州为亿航智能EH216-S无人驾驶载人航空器系统颁发生产许可证,加上去年取...【详细内容】
2024-04-09    环球网  Tags:飞的   点击:(5)  评论:(0)  加入收藏
收入越高,生育率越低!真的吗?
近年来,发达国家的生育率下降到了低于维持当前人口水平所需的更替水平,全球生育率也紧随其后。生育率下降导致人口呈指数级减少。有分析指出,根据经济增长模型的预测,人口减少可...【详细内容】
2024-04-09    华尔街见闻  Tags:生育率   点击:(7)  评论:(0)  加入收藏
网约车抽成“套路”多:订单倒卖、高速费抽佣 如何保障司机收入?
今年是刘先生在广州开网约车的第四年。他每天上午10点开工,晚上11点左右收工,日均上线时长约12小时,日均流水500多块钱,每月休息两天。除去租车、充电的成本,“每天能赚200多至30...【详细内容】
2024-04-09    21世纪经济报道  Tags:网约车   点击:(6)  评论:(0)  加入收藏
网约车平台“套娃式”抽佣乱象频现
近期,12345市民热线陆续接到了不少网约车司机关于平台抽佣过高、抽佣不透明等等的投诉和吐槽,2022年以来,网约车平台抽佣默认在30%这一隐形上限,然而受订单层层转卖、一口价等因...【详细内容】
2024-04-08    看看新闻KNEWS  Tags:网约车   点击:(1)  评论:(0)  加入收藏
网约车抽成“套路”多:订单倒卖、高速费抽佣,如何保障司机收入?
今年是刘先生在广州开网约车的第四年。他每天上午10点开工,晚上11点左右收工,日均上线时长约12小时,日均流水500多块钱,每月休息两天。除去租车、充电的成本,“每天能赚200多至30...【详细内容】
2024-04-08    21世纪经济报道  Tags:网约车   点击:(5)  评论:(0)  加入收藏
多省份上调!你的工资不能低于这个数
全国各地最低工资标准榜单迎来更新,多个省份有所上调。近日,人社部官网发布了全国各省、自治区、直辖市最低工资标准情况(截至2024年4月1日)。上海、江苏、浙江、北京月最低工...【详细内容】
2024-04-08  诸葛瑞鑫  国是直通车  Tags:工资   点击:(2)  评论:(0)  加入收藏
香港人买爆深圳,“反向代购”团队月入20万
香港居民北上消费的热情还在持续。继周末拉着行李箱挤爆深圳山姆店囤货之后,香港居民现在甚至开始涌入深圳城中村、街市、路边摊档,购买更具性价比的食品和日用品。近日,恰逢香...【详细内容】
2024-04-07  林京  Tech星球  Tags:反向代购   点击:(4)  评论:(0)  加入收藏
香港人为何会买爆深圳?
记得十年前,内地居民还很热衷于港澳游,每逢去香港都会大包小包往回带。后来,又慢慢发展了代购产业,香港人一度不满蜂拥而至的大陆游客。然而,三十年河东,三十年河西,如今内地人不再...【详细内容】
2024-04-06    郎club  Tags:深圳   点击:(2)  评论:(0)  加入收藏
大厂离职开咖啡馆:“没有比上班性价比更高的事了”
 “咖啡店营业额一周多一周少是正常的,这个现象叫大小周。大周起飞,小周躺平,听天由命。营业时间早10晚10,一周六天,做真正的996。要经常和咖啡师对齐产品和服务颗粒度,不然出品...【详细内容】
2024-04-03    三联生活周刊  Tags:上班   点击:(6)  评论:(0)  加入收藏
站内最新
站内热门
相关头条
  • · 在饭局上喝酒,要学会3句“万能开场白”,让大家对你刮目相看
  • · 网约车抽成“套路”多:订单倒卖、高速费抽佣 如何保障司机收入?
  • · 网约车抽成“套路”多:订单倒卖、高速费抽佣,如何保障司机收入?
  • · 大厂离职开咖啡馆:“没有比上班性价比更高的事了”
  • · 虚假宣传、捆绑销售,买车位的坑你遇过吗?
  • · 同城12元!跨城40元!无人机“闪送”来了!快递业迎大变革?
  • · 跳出“自动续费”陷阱
  • · 12306上线“同车换乘”功能
  • · 全国入春进程图出炉!华北多地提早迈入春天门槛
  • · 清明小长假前夜火车票今日开抢!国内航线假期机票均价超730元
  • · 一个家庭怎么才算富裕?3个条件满足一个就行,看看你达标了吗?
  • · 为啥感觉中国人月薪过万好像成了家常便饭?揭开背后的真相!
  • · 3亿人的养老挑战: 人财物如何做好准备
  • · 听说你在大城市穷笑了,要不要回县城?
  • · 春运遇上暴雪!高铁降速停运,为啥绿皮车还能“冒雪前行”?
  • · 家庭富不起来的“4个”原因,快看一下你家有没有?赶快消除掉!
  • · 家庭总资产100万处于什么阶层?
  • · 北京推进地铁、市郊铁路一票通行,支出满百元可享受月累计优惠
  • · 市监总局揭秘“鬼秤”作弊方法:人为改变重量修改参数
  • · “AI客服快把人逼疯了!”智能客服答非所问 人工客服要排长队
  • 站内头条