好玩的AI换脸，为何美国智库认定威胁国家安全？

文 |张田勘

这两天一款现象级的名叫ZAO的的AI换脸软件红遍网络，下载这款软件后，用户可以用自己的脸替换名人、明星的脸，还可制作表情包，出演经典电影，跟偶像飙戏等，从效果看非常逼真，而且面部表情自然，操作简便，很多人玩了一把后，直呼过瘾。

然而好景不长，一夜爆红“ZAO”的微信分享链接目前已经被停止访问了。关于“ZAO”刷屏后所带来的隐私焦虑与风险担忧，仍在蔓延。

火爆的ZAO与潜在的危机

实际上，ZAO软件就是一款经改造的换脸APP，2017年发源于美国，称Deepfakes，是深度机器学习（deep machine learning）和假照片（fake photo）的简称（合称），最生动的称呼是深度（照片）造假。

deepfakes“换脸”视频截图

既然是造假，当然要禁止。但是很多图片软件研发出来的目的可能初心并非是为了造假和欺骗，只是为了好玩，就像美国的Deepfakes最初在Reddit网站以娱乐形式发布一样，现在的ZAO同样可能基于好玩和吸引公众的原因而发布，当然不排除流量增加后的商业目的。

但是，很多业内外人士马上察觉到ZAO的阴影和潜在的危机与不安全，因为使用这款软件进行换脸后，需要进行眨眼、抬头等各种验证，与刷脸支付采集的脸部信息类似，而且注册平台需要手机号码。

这就可能产生种种不安全，如自己钱包（支付宝、微信和银行卡）中的钱会就如同换脸一样很简单地换（变）成了对方的钱，或被第三方转走。其次，换脸容易，洗刷嫌疑可难，如果涉及犯罪，轻而易举的换脸操作也会让真假罪犯难辨，同时加大司法成本。

当然，在一些国家，如美国，换脸还可能成为反恐的梦魇，既可以让恐怖分子很容易通过换脸作案和逃脱，也加大了安全部门反恐的难度。

ZAO软件苹果商店排行

除此之外，潜在的危险还包括这款软件的一些不利于用户的条款，在用户协议的表述中有：使用这款软件的换脸功能，需要同意授予这款软件及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于：人脸照片、图片、视频资料等肖像资料中所含的肖像权利人的肖像权，以及利用技术对肖像权利人的肖像进行形式改动。

不过，在引发争议后，ZAO修改了其用户协议内容，新增加了“特别提示”。并对最具争议的用户协议第六条第二款中要求用户须授予 ZAO“完全免费、不可撤销、永久、可转授权和可再许可的权利”的字段删除。

所有这些问题都是ZAO和相似软件可能产生的潜在危险和不安全性，这也是人工智能为社会提供产品的同时人们必然面临的挑战。因此，如何监管才是最现实和最严峻的问题。如果说ZAO软件已经造成了实际危害结果，就是治病的范畴，虽要下猛药。但是，现在人们使用ZAO还没有出现问题，只是预感和预测其可能要出问题，因此属于预防的问题。

现在，各种AI软件似乎是防不住，一种方法是，如果预感和预测到AI软件对社会有重大威胁，就应全面禁止。还有一种方法是，现在还没出问题，可以放行（绝非放任），等出了问题再来解决。

ZAO图片截图

Deepfakes泛滥，欧美如何应对？

现在ZAO软件就面临着管理者禁与放的困难抉择。由于有不同的国情和环境，也许对换脸技术的敏感度和监控方式是不一样的。对于换脸，美国欧盟等认为，即便是潜在的威胁，也极其严重，必须先出手防范。

2019年1月28日，美国卡内基国际和平基金会专门发表文章《国家如何应对Deepfakes？》，指出，以Deepfakes为代表的换脸技术具有一系列潜在的危害，包括煽动政治暴力、破坏选举、扰乱外交关系、提供虚假证据并干扰司法、实施敲诈等。

其实，这篇文章并没有提出具体的建议，但是一个重要的建议是，希望各国明确定义Deepfakes的不正当使用，亟须社会定义什么可以接受，什么不可以接受，这既有利于社会和法律的管理，也有利于社交媒体规范其平台，管理网上内容。

2019年6月13日，美国众议院情报委员会对Deepfakes举行了一场听证会，会上该委员会主席、众议员亚当•希夫（Adam Schiff）称，篡改视频的传播为2020年总统大选带来了一种“噩梦般的”场景，让议员、新闻媒体和公众“难以分辨什么是真实的，什么是虚假的”。因此，需要对《通信规范法》第230条（互联网服务不必为其用户的行为负责）进行修改，以打击Deepfakes，保护用户免受假新闻的误导。

Deepfakes换脸技术

但是，如果网络服务提供者对出自第三人的信息进行了审核、编辑、删除等处理，其角色将从“服务提供者”转变为“出版人”，要承担相应的侵权责任。这就导致美国的网络服务提供者不敢轻易审核或删除任何用户信息，即使这些信息是侵权的或是违法的。

希夫和美国马里兰法学院教授达尼埃尔•西特龙（Danielle Keats Citron）建议国会考虑修改这一条款，为网络服务提供者进行合理审核提供“豁免权”。否则，目前对第230条的解释，使得社交平台没有动力去解决具有破坏性的危险性内容。

例如Deepfakes换脸技术产生的具有破坏性的危险性内容。欧盟也是在2019年初出台了应对Deepfakes的指南，以帮助公众分辨某条信息的来源，信息是如何产生的，以及信息是否值得信赖。

可以看到，对换脸技术的潜在危险极为重视的美国和欧盟现在还没有出台法律以禁止换脸技术，只是在进行论证。迫于压力，美国的Reddit上关于换脸技术的讨论版被删除，换脸技术也在美国被全网封禁，其GitHub开源代码也被清除。

显然，这只是社交网站出于压力的一种行为，如果没有明确的法律，类似ZAO这样的换脸技术很快就会大行其道，而且，利用Deepfakes的做法还会越来越扩大化和恶俗化。

ZAO图片要求

不仅如此，Deepfakes还可根据算法生成色情内容，成为DeepNude，随意换上一位明星的头像，就可以让其脱光裸露。

当然，美国有也有个别州的法律监管比较快，但是仅限于使用Deepfakes与“复仇色情”相关的内容和行为，所谓复仇色情是指，有人基于种种原因在网上发布女性（也有少数是男性）的裸照，但未经图片主人的同意，目的是对当事人进行报复、羞辱和伤害，而且这些照片很难从互联网上删除。因此，一些国家出台了“复仇色情法”，以打击这种行为。

目前美国弗吉尼亚州正式实施扩大了“复仇色情法”，严禁经过深度伪造的内容，包括制作或操纵视频和使用机器学习制作的图像等，利用Deepfake制作的黄色图像也包括在内。如果违反该法则，最高可判12个月监禁，罚款2500美元。这一法律已于2019年7月1日实施。

扎克伯格视频被篡改

现在看来，ZAO软件还没有造成实际上的危害，但是，正如网友所指出，一个潜在危害非常实在：“有手机号，有面部图像，通过技术合成，犯罪分子可以替你和你家人通话了。”因此，公众的担心也并非杞人忧天。

张田勘（专栏作者）

参考文献：

1.AI换脸APP刷屏朋友圈 爆火背后有哪些商机、隐患？2019-09-01，央广网http://www.sohu.com/a/337878884_123753?spm=smpc.news-home.pol-subject-news 2.How Should Countries Tackle Deepfakes?CHARLOTTE STANTONhttps://carnegieendowment.org/2019/01/28/how-should-countries-tackle-deepfakes-pub-78221

3.House holds hearing on"deepfakes" and artificial intelligence amid national securityconcerns，JUNE 132019

https://www.cbsnews.com/news/house-holds-hearing-on-deepfakes-and-artificial-intelligence-amid-national-security-concerns-live-stream/

编辑：范娜娜 实习生：龙江兰 校对：刘军