GeekPwn2018顶级AI黑客招募令：你有信心致盲AI吗？

谈及机器学习，「对抗样本」这个词，应该已经不再陌生。而对抗性样本攻防赛，或许你还是第一次听说。

为了加快对抗样本的研究，作为全球首个关注人工智能与专业安全的前沿平台，GeekPwn2018将创新性地设置CAAD 对抗样本攻防赛（Competition on Adversarial Attacks and Defenses），针对图像识别领域的对抗攻击与防御研究分别设置了三个项目，于今年5月正式开赛。选手出示的图片上，到底是中华田园犬还是北极熊、是鹦鹉还是鸵鸟、是汽车还是飞机？想知道答案，你一定要来GeekPwn2018的现场一探究竟。

因为，这可能是AI安全领域最特别的一次比赛。

连人也不放过的「对抗样本」

虽然，人工智能已经作为不可或缺的科技新品走进了千家万户，上到人脸识别门禁、瞳孔识别保险柜，下到手机、房门，AI使一切看起来如此便捷与美好。但事实上，研究人员们经历过的人工智能的“失败”远远多于我们看到的成功的成品，这其中就涉及到对对抗样本干扰的排除。因为多数基于机器学习的分类器对于对抗样本是高度敏感的。

有一个例子：在2016年的GeekPwn硅谷站上，生成对抗网络之父Ian GoodFellow就带来了欺骗机器视觉的演示。

在一张熊猫的图片中，加入了一个小干扰到对抗性样本里，就导致系统将其误认为是长臂猿的照片。在绝大多数时候，这些小的修改并不会使人类注意，但仍然会使得分类器出错。

Ian凭借一个做过手脚的对抗性样本让我们知道，即使对样本做极微小的改变也能欺骗神经网络图像分类器，让分类器做出南辕北辙的判断。充分说明了目前 AI 系统的脆弱性。

而不久前，这种利用对抗样本的欺骗手法已经更上一层楼，对抗性样本不再只是欺骗机器，现在连人类也可以被欺骗了。就如下图所示：无论是机器模型还是人类都会判断左侧是猫，右侧是狗。而事实上，右侧图像只是左侧图像一个简单地对抗扰动。

这些例子都在告诉我们一个事实，机器视觉并非金刚不坏之身，攻击者利用对抗样本会为我们带来潜在的安全隐患，它们可以被用来攻击机器学习系统，即使是在无法获得模型的情况下。如：当无人驾驶汽车的视觉系统被欺骗，就无法正确区分对人、交通工具和路标的分类，这将会带来灾难性后果。

从长远角度来看，机器学习和 AI 系统必将变得更加强大。类似于对抗样本的机器学习安全漏洞可能危害甚至控制强大的 AI 们。那么，从机器学习安全的角度来考虑，该如何防御？而目前为止一个行之有效的防守策略就是对抗训练。在不断地模型训练过程中，训练样本不仅仅是干净样本，而是干净样本加上对抗样本。随着模型训练越来越多，一方面干净图片的准确率会增加，另一方面，对对抗样本的鲁棒性也会增加。

你的障眼法能否蒙蔽机器的双眼

为了找到防御这些对抗样本的最佳防御策略，探索这个让人激动人心的领域，2018年，GeekPwn以65万元总奖金联合谷歌大脑的 Alexey Kurakin、Ian Goodfellow 以及美国加州大学伯克利分校计算机系教授宋晓冬共同发起 CAAD 对抗样本攻防赛（Competition on Adversarial Attacks and Defenses）。

本次大赛将聚焦让机器学习分类器频频犯错的对抗样本，针对图像识别领域的对抗攻击与防御研究分别设置了三个项目，预演 AI 领域可能存在的风险并不断完善，从而推动人工智能安全健康成长。在这三个项目中，选手需要提交程序来完成相应的任务，选手可以独立报名，参加一个或多个项目。

第一个项目为非定向对抗攻击，此项比赛的目标是轻微修改原图像，使得未知分类器将修改后的图像错误分类；第二个项目为定向对抗攻击，此项比赛的目标是目标是轻微修改原图像，使得未知分类器将修改后的图像错误分类到指定的类；最后一个项目则是对抗防御，此项比赛的目标是生成基于机器学习的分类器，对对抗样本有强的防御力，也即能够正确地把对抗样本进行分类。

简单来说，GeekPwn希望以CAAD对抗样本攻防赛的形式，邀请全球顶级AI黑客，通过“对抗训练”，使机器进行更深度的“学习”，从而有效提升机器的鲁棒性，让机器学习系统健康成长。

CAAD对抗样本攻防赛将于2018年5月-2018年7月以线上的形式展开，在GeekPwn2018拉斯维加斯站上举行颁奖仪式。报名起止时间为：2018年 5 月 10 日-7 月10 日。值得一提的是，比赛的顾问团和评审委员会将由业内顶尖专家组成，其中包括谷歌大脑资深研发工程师Alexey Kurakin、加州大学伯克利分校计算机系教授宋晓冬、清华大学副教授兼智能技术与系统国家重点实验室副主任朱军以及极棒实验室总监王海兵等。

而除了CAAD样本对抗攻防赛外，GeekPwn2018还将设置另一AI命题专项赛——数据追踪挑战赛。AI和数据化时代，能够多维度将不同来源的数据关联并得出准确结果是一种先进的技术。你能通过对受害者手机中安装的病毒APP进行分析，在海量的病毒数据中揪出幕后黑手吗？只要你能“玩转AI”,我们都欢迎你报名参赛，用你非凡的技术实力，完成那些看似“不可能”的挑战任务。GeekPwn2018将于8月10日及10月24日分别在美国拉斯维加斯以及中国上海举办，敬请期待。戳GeekPwn官网（2018.geekpwn.org），了解更多赛事信息。