据《每日邮报》9月6日报道,英国一名公司高管被另一名人诈骗了24万美元(170万人民币),该男子使用某种语音模仿软件,假装成该高管的老板要求汇款。据报道,此案被认为是全球首例人工智能诈骗案,可能将重新引发人们对人工智能软件被用于犯罪的担忧。
这家英国能源公司的承保人Euler Hermes说,这位公司高管当时以为自己是在和他的德国老板谈话,于是电汇了这笔钱,为的是帮助公司避免拖欠罚款。
据《华盛顿邮报》报道,这位公司高管当时也产生了疑心,对对方要求汇钱的做法感到奇怪,但当时他的确听到了老板的德国口音。
在接到电话后,他向匈牙利的一个秘密账户汇去了24万多美元(170万人民币),现在这个骗局已经被承保人Euler Hermes揭露。
保险公司说:“骗子使用了某种人工智能软件,能够模仿他人的声音、语调和口音。”
在骗子们第二次尝试这个诡计时,这一次这名高管开始发现哪里不对劲,于是直接给他的老板打了电话。
该公司的保险公司表示,这笔钱在被分散到其他地方之前,是通过匈牙利和墨西哥的账户转账的,目前还没有嫌疑人的名字,据信这笔钱已经无法找回。所幸保险公司承诺将承担全部的损失费用。
一些研究人员表示,这是世界上首次公开报道的人工智能诈骗案。
变声技术的工作原理是把一个人的声音分解成音节或声音,然后再重新排列,再形成新的句子。尽管该系统仍处于早期开发阶段,但如果犯罪者假装在汽车或繁忙的环境中,就可以将变声后令人生疑的地方掩盖过去。
一家名为Lyrebird的公司允许任何人在上传一分钟的语音片段后使用这项变声技术,它称这是“世界上最真实的人造声音。”
Lyrebird的一名发言人在一份道德声明中写道:“想象一下,就算我们不发布这项技术,其他人也会开发它,谁知道他们的想法是否会和我们一样真诚。”
网络安全公司Symatec的研究人员称,他们发现了3起类似的案例,都是高管被使用人工智能技术的骗子通知,往另一个账户汇款。该公司透露,其中一个案例的损失总计达数百万美元。
就在昨天,Facebook和微软(Microsoft)发起了一项新的运动,将打击那些看起来极其逼真的深度伪造视频。
领取专属 10元无门槛券
私享最新 技术干货