科技的进步,尤其是机器学习(ML)和人工智能(AI)技术的快速发展,也给诈骗分子提供了新的诈骗武器。这些借助人工智能的新诈骗方式,有些在以前是难以想象的,所以我们要特别谨慎。
最近发生了一个真实的事件。犯罪分子使用基于机器学习和人工智能的软件,来模仿公司首席执行官(CEO)的声音,要求一个员工转账24万美元到一个账号。
这件事发生在英国。一家英国能源公司的高管,收到了自称是CEO的电话。这位高管真认为他正在与CEO大老板在电话中交谈,因为对方的声音明明就是CEO的声音。CEO要求他将资金转给一个匈牙利供应商;而且说这一要求很紧急,指示高管在一个小时内付款。这位高管也仔细听了电话,还特别留意了CEO的轻微德国口音和电话中声音的节奏;但是他没有听出任何问题。高管就把钱转过去了。本来这事就完了,诈骗也成功了;可是过了一天,诈骗分子贪得无厌,又来打电话,要求转更多的钱。这下高管起了疑心,去公司仔细核实,才发现了这个惊天骗局。但是到现在也没有破案。
使用AI人工智能进行诈骗,是全球公司和个人面临的新挑战。攻击者可能会使用人工智能程序,基于某个人公开提供的录音来做各种分析,然后就可以产生这个人的声音。
比如有些名人和高管的声音可能有很多公开的,像各种讲话和访谈。这些人工智能程序可以通过提取一个人的声音特征,就可以模拟产生这个人的任何谈话。
这种人工智能产生语音的技术,比之前的音频拼接法(就是音频样本拼接在一起以模仿人的声音)可高级多了,因为拼接法需要大量的时间,而且不能产生新的声音。
更加恐怖的是,同样的技术也可以产生视频,比如人工智能对已有视频进行换脸。视频里明明不是某个人做的事情,可以无缝地被改造栽赃成是这个人干的。
举个例子,比如某天我们突然收到一个不雅视频,里面的主人公是我们自己,声音视频都是我们的(虽然我们没有做),然后用这个来要挟勒索钱财。想想看,有多恐怖!
将机器学习技术和人工智能的科技应用于欺骗语音,的确可以使网络的犯罪更加容易。这方面的新诈骗手段会不断产生,很多会是我们闻所未闻的。
从这个角度讲,我们每个人都需要不断跟踪一点科技的进步,才能识破这些诈骗手段,不会上当。