【热点】你真敢ZAO吗？解读换脸AI “细思极恐” 的用户协议

经过一个周末的发酵，一夜爆红的换脸APP“ZAO”已经被推到了舆论的风口浪尖，在娱乐的同时，涉及的技术问题、隐私问题、安全问题备受关注。现在我们冷静下来再审视这个ZAO。

你ZAO了吗？

8月30日晚间，一个名为“ZAO”的APP一夜爆红，有的人尝鲜乐此不疲、有的人则对其中涉及到的隐私问题忧心忡忡。到了第二天，这个APP已经被推到了舆论的风口浪尖。

目前，ZAO的微信分享链接显示已停止访问，页面显示“网页存在安全风险，被多人投诉，为维护绿色上网环境，已停止访问”。

经过一个周末的发酵，我们现在冷静下来再审视这个ZAO。

ZAO是做什么的？

“仅需一张照片，出演天下好戏”，正如这句广告语，ZAO其实是一个换脸APP。用户只需上传一张面部照片，再选一个自己喜欢的影片片段和角色，就可以把这些角色的面孔换成自己的模样，简直是不费吹灰之力过了一把“明星”瘾。

因此，ZAO瞬间走红的原因不外乎两个：第一，使用门槛低；第二，可以满足大家的“明星梦”。

从一夜爆红到几乎全民声讨，ZAO的用户协议“细思极恐”

从一夜爆红到几乎全民声讨，ZAO到底做错了什么？其实，最主要的原因就是“隐私”二字。

知乎的一则相关提问：“如何看待 AI 换脸软件「ZAO」的爆火？”已经被浏览了576万次，引发网友热烈讨论。

知乎网友“法山叔”看了ZAO的用户协议后得出了两个结论：

1、“ZAO”app涉嫌过度攫取用户授权，让你在无形中将自己的肖像权拱手让人，以后你的脸将完全有可能被别人随意使用，变换；

2、zao并未获得换脸明星们的肖像权授权，你变脸涉嫌侵权，但当明星认为自己的权利受到侵害时，“ZAO”app将完全有可能将法律的锅全部甩给你，让你自己承担侵权苦果。

这又引发了一个新问题，现在的人脸支付、手机人脸解锁会因为ZAO的出现而有安全风险吗？玩这个软件会不会导致自己的支付宝刷脸被冒充？

根据“支付宝”的回应：不会的。因为“支付宝「刷脸支付」采用的是3D人脸识别技术：在进行人脸识别前，会通过软硬件结合的方式进行检测，来判断采集到的人脸是否是照片、视频或者软件模拟生成的，能有效地避免各种人脸伪造带来的身份冒用情况。”而且，支付宝表示：即便出现账户被冒用的极小概率事件，资金损失也会通过保险公司进行全额赔付。

“换脸”不新鲜，Deepfakes技术详解

虽然ZAO没有公布使用的具体技术，但其实，AI换脸并不是非常新鲜的技术了。前一阵子便有朱茵变杨幂，海王变徐锦江的相关报道。

《射雕英雄传》中，朱茵变杨幂

海王变徐锦江

这些技术的背后，是2017年年底的Deepfakes软件带来的结果。当时Reddit用户Deepfakes，将《神奇女侠》的女主角盖尔·加朵、以及艾玛沃森、斯嘉丽等众多女明星的脸跟AV女优进行了交换，制作出足以以假乱真的爱情动作片。

接下来我们来了解下Deepfakes的技术内容：

Deepfakes 使用生成对抗网络(GAN)，其中两个机器学习模型进行了较量。一个ML模型在数据集上进行训练，然后创建伪造的视频，而另一个模型尝试检测伪造。伪造者创建假视频，直到另一个ML模型无法检测到伪造。训练数据集越大，伪造者越容易创建可信的deepfake视频。

上图显示了一个图像(在本例中是一张脸)被输入到编码器(encoder)中。其结果是同一张脸的低维表示，有时被称为latent face。根据网络架构的不同，latent face可能根本不像人脸。当通过解码器(decoder)时，latent face被重建。自动编码器是有损的，因此重建的脸不太可能有原来的细节水平。

程序员可以完全控制网络的形状：有多少层，每层有多少节点，以及它们如何连接。网络的真实知识存储在连接节点的边缘。每条边都有一个权重，找到使自动编码器能够像描述的那样工作的正确权重集是一个耗时的过程。

训练神经网络意味着优化其权重以达到特定的目标。在传统的自动编码器的情况下，网络的性能取决于它如何根据其潜在空间的表示重建原始图像。

训练Deepfakes

需要注意的是，如果我们单独训练两个自动编码器，它们将互不兼容。latent faces基于每个网络在其训练过程中认为有意义的特定特征。但是如果将两个自动编码器分别在不同的人脸上训练，它们的潜在空间将代表不同的特征。

使人脸交换技术成为可能的是找到一种方法来强制将两个潜在的人脸在相同的特征上编码。Deepfakes通过让两个网络共享相同的编码器，然后使用两个不同的解码器来解决这个问题。

在训练阶段，这两个网络需要分开处理。解码器A仅用A的人脸来训练；解码器B只用B的人脸来训练，但是所有的latent face都是由同一个编码器产生的。这意味着编码器本身必须识别两个人脸中的共同特征。因为所有的人脸都具有相似的结构，所以编码器学习“人脸”本身的概念是合理的。

生成Deepfakes

当训练过程完成后，我们可以将A生成的一个latent face传递给解码器B。如下图所示，解码器B将尝试从与A相关的信息中重构B。

如果网络已经很好地概括了人脸的构成，那么潜在空间将表示面部表情和方向。这意味着可以为B生成与A的表情和方向相同的人脸。

请看下面的动图。左边，UI艺术家Anisa Sanusi的脸被从一个视频中提取并对齐。右边，一个训练好的神经网络正在重建游戏设计师Henry Hoffman的脸，以匹配Anisa的表情。

显然，Deepfakes背后的技术并不受人脸的限制。例如，它可以用来把苹果变成猕猴桃。

重要的是，训练中使用的两个主体要有尽可能多的相似之处。这是为了确保共享编码器能够泛化易于传输的有意义的特性。虽然这项技术对人脸和水果都有效，但不太可能将人脸变成水果。

你还敢“ZAO”吗？

ZAO不仅国内火爆，国外用户也纷纷被这一APP惊艳到了，不少人也分享出自己用ZAO做的“好莱坞大片”。

比如这个在Twitter上已经播放了50多万次的视频，就是一位印度游戏开发工程师用ZAO做出的《泰坦尼克号》，视频中，他化身Jack，融入到一幕幕经典场景中。

在评论中，外国网友也热议这个APP。

“太疯狂了...从现在开始，这个世界再也不知道什么是真的了”

“嘿伙计们，来玩有趣的新AI学习算法，绝对不会用来训练面部识别软件带来可怕的安全问题并奴役我们所有人！”

“说实话，每个允许用户发布自拍的平台都可以做到。问题是人们永远不会停止发布自拍。”

“deepfake的演变是不可思议的。该技术仅用了3年时间，现在它已经用于公共应用程序中。”

对于ZAO，你怎么看？