近日,中国香港发生了一起规模巨大的AI“深伪”诈骗案,涉案金额高达1.84亿人民币。该案件引起了广泛关注,成为香港历史上损失最惨重的“变脸”案例,并首次涉及到了使用AI技术进行多人视频会议的诈骗行为。
据了解,报案人是来自一家跨国公司香港分行的员工。他收到了该公司英国总部首席财务官的信息,称要进行机密交易,并邀请了数名财务人员参加视频会议。由于对方在会议中展示了与现实相符的容貌,因此并未察觉到任何异常。
然而,在接下来的15次转账过程中,这位员工共向5个本地银行户口汇款了2亿港元。后来他才得知自己被骗了。
根据目前掌握的信息显示,犯罪嫌疑人通过公司YouTube视频和其他公开渠道获取的媒体资料,成功地模仿了英国公司高层管理人员的形象和声音,并利用深度伪造技术制作伪冒视频来实现多人参与视频会议的效果。事实上,在这场假会议中只有他自己一个人是真实的。
这些预制视频主要以上司的角度向员工下达命令,而这位员工并没有机会参与对话,只是被要求简单地自我介绍一次后就结束了会议。后续的指令则是通过软件沟通下发。
目前,香港警方正在进一步调查此案件,并尚未逮捕任何嫌疑人。此次事件提醒我们对于使用AI技术进行欺诈行为的风险需保持高度警惕。