芝加哥大学开发AI工具Fawkes，混淆面部识别系统来保护隐私

近年来，很多公司在网上搜寻与人名有关的公开照片，以便建立庞大的人脸数据库，并改进其面部识别系统。这让人们越来越觉得，个人隐私正在一点点消失。而研究人员正试图阻止这些，芝加哥大学的一个计算机工程师小组开发了一种工具，可以用像素级的变化来伪装照片，使面部识别系统混淆。

该软件被命名为福克斯（Fawkes），以纪念受到全世界抗议者喜爱的盖伊·福克斯面具。该软件于上月在研究人员的网站上向开发者开放，已被下载超过5万次。研究人员正在为非编码人员开发一个免费的应用程序版本，希望很快就能推出。

该软件的目的并不是仅仅为隐私拥护者提供一次性工具。如果部署在数百万张图像上，这将是对面部识别系统的一次猛烈攻击，影响面部识别系统从网络上收集的所谓数据集的准确性。“我们的目标是让Clearview这样的软件消失”芝加哥大学计算机科学教授说。

Fawkes通过巧妙地改变面部识别系统在构建一个人的脸纹时所依赖的一些特征来转换图像，或者用研究人员的话说叫做“掩护”。研究小组描述了女演员格温妮丝·帕特洛使用演员帕特里克·邓普西的面部“隐形”照片，根据这些照片学习帕特洛女士长相的系统就会开始将她与邓普西的一些面部特征联系起来。这些变化，通常非常细微，肉眼无法察觉；然而，当看到帕特洛女士真实的、未被遮盖的照片时，系统将无法识别她。

为了测试这个工具，笔者隐藏了一些和家人的照片，然后将原始图像和伪装图像上传到社交软件，看看它们是否骗过了该社交网络的面部识别系统，事实证明这招奏效，社交软件在原始照片中可以得到标记，但在隐形版照片中没有标记。

然而照片上的变化肉眼是可以看到的，有时甚至有性别上的变化。研究人员对此解释到，首先这个软件是从名人脸的数据库中提取的，用来将用户的脸与一个看起来尽可能不像的人脸模板匹配，通常是一个异性，这会导致伪装比较明显。但该团队表示，他们计划对软件进行调整，使其不再改变用户的性别。

另一个问题是,实验与工具软件设计的初衷不太一样,最大限度的改变照片尽可以确保该工具奏效。而该工具的目的并不是要阻止像一般社交媒体的面部识别系统，它试图更广泛地执行一种被称为数据中毒的算法攻击。理想情况下，人们会隐藏他们上传的所有图片。这就意味着像很多“兜售”面部信息的公司无法创建有效的数据库。

“互联网上有几十亿未经修改的照片，都在不同的域名里。实际上，要完善Fawkes这样的技术并大规模部署，几乎为时已晚。一部分专家也对 Fawkes能否成功持怀疑态度。面部识别先驱Joseph Atick认为，人们已经提供了大量的自己的图像，这个问题太难克服了。有一部分专家认为有必要采取“双管齐下”的方法，即个人拥有技术工具的同时还要有隐私法来保护自己。