编者按:最近,Google的研究人员发表了一篇论文,称他们用几张花花绿绿的小贴画,成功骗过了AI——面对一根香蕉,图像识别软件就像产生了幻觉,非要坚持这就是一台面包机。
让AI大脑当机的方法你也许早有耳闻,比如问一个逻辑悖论、将图片套上扰动滤镜,可这种贴纸却让普通人也可以直接打印,简单高效,而AI几乎次次中枪。
调戏人工智能变得越来越简单了吗?研究人员说,今日,这些我们试做玩笑的戏法,可能是危险的前奏,比如,你给你的爱车糊上这种贴纸上路......
威廉·吉布森2010年的小说《ZeroHistory》中有这样一幕场景:一名角色准备进行一项高风险的行动,书中称其为“世界上最丑的T恤”——穿上这件衣服,他就能在监控摄像头前隐身。
无独有偶,尼尔·斯蒂芬孙的《雪崩》(SnowCrash)里也有向电脑发送光学位图,干扰目标大脑,进而通过神经系统捣毁对方的思维的情节。诸如此类的故事还有很多,他们都提到了科幻中一个常见的桥段:
简单的图像,可以让电脑崩溃。
欺诈图像——AI:你是不是讹人?
今天,这个概念已经不是虚构了。去年,研究者们已经成功骗过了一套商业面部识别系统,仅仅戴上一副花边眼镜,就能让面部识别AI失去判断力。奥妙就在于眼镜框上的图案。
在我们看来,这些曲线和折线可能十分随机,还挺有艺术感,但是对于电脑来说,这些图形搅乱了机器识别人脸的重要特征。
这些眼镜还没达到吉布森“世界最丑T恤”的高度,还不能从监控中删去你的影像,但它能骗过AI。理论上,调整眼镜上的花纹,你可以让AI把你误认成任何人——教皇、明星、总统,谁都可以。
▲
领取专属 10元无门槛券
私享最新 技术干货