换脸软件里的时代症候：ZAO作的世界里，颜面皆可抛！

互联网世界变幻莫测 ，AI换脸App“ZAO”8月31日凌晨上线，当日刷屏社交媒体，次日因其霸王用户条款被质疑，第三日微信分享链接被屏蔽停止访问。在三天时间内一条龙完成起高楼、宴宾客、楼塌了，被网友戏称为“出道即巅峰”。

该APP通过实时拍摄照片和明星“换脸”，助力普通人逐梦演艺圈，用户在激情下载并发出“好玩”的赞叹声后，才反射弧滞后地发现事情并没有那么简单。技术伦理、隐私安全、财产安全、侵权风险转移等问题扑面而来。

无处遁形的个人隐私

“我有一个长长的望远镜，一直能伸到你家里”

通过AI技术换脸并不新鲜，今年年初，社交媒体上就热传着一张流传着杨幂与朱茵换脸的GIF图，毫无违和感的替换技术引发网友关注，算是AI换脸技术在中国公众面前首次大规模亮相。

而早在2017年，国外一位ID为“deepfakes”的网友，利用业余时间创造了一个AI换脸算法，悄然流行，后来这个算法也被广泛称为Deepfakes——结合了“deep learning”（深度学习）和“fake”（伪造），专指用基于人工智能的人体图像合成技术，但遗憾的是这一技术却被广泛地使用在情色视频黑色产业链中。

ZAO首次大大降低了AI换脸的技术门槛，用户只需要一部手机和一张个人照片，就可以把多种知名影视场景中主角的脸换成自己的脸。当简单易上手的操作、可预见的信息泄露风险，撞上被称为“霸王条款”的低阈值的隐私保护协议，即刻引发了舆论对其的反噬，该软件默认用户协议提出,“上传及/或发布用户内容以前,您同意或者确保实际权利人同意授予ZAO及其关联公司以及ZAO用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”。这意味着用户在上传自己的换脸视频后，无法再删除里面的照片，即使删除应用也无能为力，个人肖像权被永久授权。用户只能通过隐蔽的注销账号申请进行补救。此外手机号加高清面部照片也引发了人们对刷脸支付关联的财产安全的担忧。

在广泛批评质疑后,ZAO修改用户协议,删除了原有的上传肖像权可被ZAO完全免费、不可撤销、永久、可转授权和可再许可的权利等描述,但依然保留“您同意对用户内容进行网络信息传播的权利”。9月3日，对涉嫌过度收集用户信息及隐私安全的争议，ZAO首次做出回应致歉，称不会存储个人面部生物识别特征信息。"换脸"效果，是根据用户提交的头像照片，按照用户选定的素材场景，通过后期技术叠加所实现的虚构图像，并没有采集任何个人生物识别特征。使用ZAO不会产生支付风险。用户删除信息或注销账号，ZAO均会依据相关法律法规的规定删除相应信息。但网友并不买账，显然这并不能缓解公众对于ZAO的隐私质疑。

李彦宏曾说“中国人对隐私问题更加开放，或者说没有那么敏感。如果通过交换隐私而获得便捷、效率、安全，在很多情况他们是愿意这么做的。”有不少人认为李彦宏只是大无畏地说出了实话，与其说李彦宏是皇帝的新衣里的小孩，不如说他对互联网巨头业已熟悉的业界逻辑见怪不怪，有着何不食肉糜的笃定。在软件使用上，用户并不是愿意交换隐私，是并没有第二条选择路径，在不授权就无法使用的窘境下，用户协议多成为象征性程序。中国消费者协会发布的《2018年App个人信息泄露情况调查报告》显示，我国用户个人信息泄露情况已经十分严重，App存在过度采集个人信息的普遍趋势，消费者与手机App服务提供商之间往往处于不对等的地位，只能同意或被迫同意格式条款和信息获取权限，此外消费者虽然有自我保护的意识，但不知如何更有效地保护自己，难以有效应对信息泄露。

窃取用户隐私的APP屡见不鲜，ZAO只是恰好因其火热站上了舆论风口，社交媒体上针对用户特点精准投放的广告、购物平台上基于用户喜好精准推荐的“好物”等已经能精确匹配到用户的年龄、婚育、星座等信息。对于智能手机的隐私获取现象，《纽约时报》曾刊文探讨，认为随着手机越来越普及，科技越来越精准，一个窥探人们日常习惯的行业已经扩散开来并且变得越来越具备侵入性。人们在被提示给予许可时所看到的解释通常是不完整的或是有误导性的。例如App软件可能会告知使用者，授予访问他们的位置的权限有助于他们获得交通信息，但不会提及这些数据会被共享或销售。数据的泄漏通常被隐藏在模糊的隐私政策中。

在地图的高速公路、小巷和自行车道上的数百万个点，每个点都可以追溯到某个匿名手机用户的行为轨迹上。

种种条条，最终推波助澜，使我们在手机面前一丝不挂，并且谁都逃不开。

对技术伦理向善的呼唤

“技术是价值中立的吗”

暂不论其他风险，AI技术牵扯到的伦理道德问题，就值得关注，例如换脸技术为污名化女性及色情报复提供了工具。2018年4月，印度著名调查记者Rana Ayyub，因揭露一些官员黑幕，不幸成了换脸色情视频的受害者，视频在印度各大社交媒体上疯狂传播，并附带着她的名字和电话号码，Ayyub的家庭地址被泄露，她的手机开始频繁接到性骚扰的电话消息以及恐吓信息。甚至她的家人都来询问，“视频上的人是不是你？”

绝大部分人是基于“好玩”使用换脸软件，但技术带来的阴暗影响却难以避免，技术伦理问题很容易使人联想到去年所谓的“原谅宝”事件及贺建奎“基因编辑婴儿”事件， 技术一旦失控打开干预人类世界的潘多拉魔盒，就将引发人人自危与人人自证：我如何证明这不是我？为何要我证明这不是我？在技术高歌猛进的同时，人工智能不断模糊着物理世界和个人的界限，不断刷新人的认知和社会关系，延伸出复杂的伦理、法律和安全问题，但相应的规范和制度设计还存在盲区，这是一个极大的挑战。

技术自身没有道德、伦理的品质，但是开发、使用技术的人会赋予其伦理价值，软件设计者通过设计模型、选择数据赋予数据意义，从而影响人们行为。因此代码并非价值中立，技术无关价值的论断也并不正确。人们无法完全信任人工智能，一方面是因为对相关的技术发展缺少足够了解；另一方面是因为人们缺乏预见能力，既无法预料企业会拿自己的数据做什么，也无法预测人工智能系统的行为。

阿希洛马人工智能原则中提到, 超级智能和技术的开发是为了服务广泛认可的伦理观念, 并且是为了全人类的利益而不是一个国家和组织的利益。对于致力于人工智能的互联网公司而言，确保AI技术被用于善意是应有的责任与道德，否则技术的滥用，数据的泄露，将引发损害真实性、威胁个人安全、危害公共利益等方面的道德伦理争议。

寻找驯化技术的达摩克利斯之剑

换脸APP为什么好玩？人们对换脸软件感兴趣，和对之前流行的美颜自拍、崽崽、小咖秀等使用心理类似。社交媒体完善的分享功能强化了人们自我表达、自我展示的需求，而相应的APP则满足了人们展示自我的心理需要。也就是戈夫曼所言的自我呈现(Self-presentation)。换脸软件为个体在网络传播中的印象管理与选择性自我呈现提供了新的技术支持——与男神女神亲密互动，仿佛打开哆啦A梦的任意门，有各种新奇体验。好玩的背后是细思极恐，因为除了换脸外，“语音克隆”也在异军突起——几秒钟的语音样本，就可以模拟出非常相似的人声。从图片到声音都能合成，使得视频作为“事实”的权威性逐渐消失。

无处不在的数据和算法催生着新型的人工智能，一边是造福人类 一边又带来了隐私保护、虚假信息、算法歧视、网络安全等伦理问题，引发了关于新技术的讨论。有观点认为面对颠覆时代的新技术，不应通过封杀、逃避等手段消除不适感，在厘清准则、强调权利的同时，充分考虑到技术发展的后果，以规避相应风险。也有声音发问“技术发展日新月异，对人性的反噬潜移默化，人的修为跟得上吗？”

今年6月，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》。这是我国首次发布发展人工智能治理原则，提出和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理八项原则，也表明了各界对伦理原则为人工智能为代表的新一轮技术发展应用提供价值引导的认同。

在技术的裹挟中，真实与虚拟世界边界越来越模糊，人成为符号，脸也似乎不再有多重要的尊严象征意义，恰如福柯所说“人将被抹去，如同海边沙滩上一张脸的形象那样被抹去。”用网友的话来说，AI技术带来的是一个无限恐怖又让人充满好奇的未来，怎样促成技术、法规和使用需求的良性耦合？驯化AI技术的达摩克利斯之剑又在哪里？我们拭目以待。

图片来自网络

参考资料：

中国消费者协会:2018年 App个人信息泄露情况调查报告全文

你的手机App知道你昨晚睡在哪张床上，而且它们还不守秘密!

人工智能让人类尴尬:伦理道德法律框架设计滞后

http://www.xinhuanet.com//local/2017-11/21/c_1121985477.htm,

智能时代需要“向善”的技术伦理观

http://www.cac.gov.cn/2019-08/14/c_1124875471.htm

编辑：新声

NEW VOICE of MINGDE

明德新声

探索有趣新思维 发出有料新声音

审核：小新

“明德新声”公众号获以下支持

教育部“高校网络教育名师培育支持计划”项目

新媒体与社会治理研究中心（陕西高校新型智库）

网络舆情科普基地（陕西省社会科学普及基地）

陕西省网络舆情研究基地