这款新出的“换脸”应用程序，被认为具有“深度造假”风险

近日，一款“换脸”应用程序（App）在中国国内下载排行榜上荣登榜首之列。这引发了人们的担忧，人们担心随着这种“AI换脸”应用的发展，那些虚假但看起来真实的视频可能会成为网络主流。

这款名为“Zao”的应用程序，是由在线社交网络平台陌陌控股的一个部门开发的。用户可以通过上传图片到这款应用程序中，应用程序可以将上传的面孔与视频里的人物调换，然后应用程序使用机器学习创建出模拟的剪辑视频，可以满足用户成为明星的欲望。

这款应用的突然出现，是“深度造假”(deepfake)的最新例子。深度造假是指通过复杂的人工智能（AI）技术制作视频、生成图像和伪造声音等，这些数字信息看似真实，实则都是伪造的。深度造假技术的迅速发展引发了人们的担忧，人们担心它可能被用于影响选举或其他一些恶意宣传活动。

小编换脸周润发的视频截图

Zao于8月30日首次发布，并迅速成为中国Android和iPhone应用商店免费应用程序下载榜榜首之一的App。但据相关媒体对Zao最初用户协议的报道，用户很快就开始批评该公司对数据隐私保护不力，包括赋予上传数据的永久和可转让权利。

因此，就连中国流行的社交软件微信都禁止用户分享由“Zao”创建的视频。作为对于这些负面报道的回应，Zao在9月3日改变了其隐私政策。

这家初创企业周二在中国版Twitter微博上发表声明称，他们的App将不会存储个人生物特征信息。考虑到个人信息被用作密码，生物特征信息已成为个人安全的关键。

世界经济论坛(World Economic Forum)数字贸易主管范紫阳（音译）表示，中国企业能够如此迅速地公开解决隐私问题，实属罕见。

Zao还表示，“换脸”效应是由AI技术叠加产生的，该公司解释说，这意味着机器生成的图像是真实面部数据的近似图像，而不是整合。

该公司补充说，一旦用户删除或者注销一个账户，他们将遵循相应的法律规则处理用户的信息。然而，尚不清楚这是否意味着用户数据将被完全删除，或者新的协议规则是否也适用于以前上传的数据。

对于很多微博用户在声明下方留言中的讨论和担忧，Zao还没有公开回应。Zao的母公司陌陌是一家纳斯达克上市公司，他们的股价周二在纽约下跌了1.6%，至每股36.18美元。

专注于人工智能的私人投资公司Radian Partners的创始人兼负责人Jennifer Zhu Scott表示：“Zao处于一个完全未知的领域。”她还补充说，由于人们对技术的不信任日益加深，该公司的未来可能并不容易。

Zao最初吸引用户的原因是，该App能快速准确地将普通人的脸换成明星脸。随着该应用修改后的视频片段数量的激增，同时显示出了虚假信息传播的速度之快和令人信服之深。

2018年4月，美国喜剧演员乔丹·皮尔(Jordan Peele)制作了一段假视频，视频中美国前总统巴拉克·奥巴马(Barack Obama)在演讲中侮辱了美国总统唐纳德·特朗普(Donald Trump)，该技术从而开始引起公众的注意。

2019年6月，脸书因为没有正确识别一段视频是假的而受到抨击。这段视频显示美国众议院议长南希·佩洛西(Nancy Pelosi)正在结结巴巴地做着演讲，而实际上她并没有做过这样的演讲。

布鲁金斯学会技术创新中心(Brookings' s Center for Technology Innovation)负责治理研究的非常驻高级研究员约翰·维拉塞诺(John Villasenor)今年6月曾经表示，“深度造假”技术将信息武器化，最大限度地利用了社交媒体生态系统的动态，这个生态系统把流量看得比其他任何东西都重要。

南希·佩洛西

他说，“虽然深度造假需要投入一些时间和精力来创作，就像其他数字内容一样，但它们可以通过社交媒体轻易地传播给受众，只要把计划、时机和运气恰当地结合起来，就可以达到数百万人的浏览量。”

我是每天与分享你国际资讯与世间冷暖的小编，点击关注可以查看更多新鲜资讯，随时随地了解世界变化。