开源 AI 技术潜在危机爆发，被大肆用于色情方向

Google 于 2015 年开源的 TensorFlow 已成为最受欢迎的机器学习框架之一，影响和改变了世界各地人工智能研究和开发的现状。借用 Google 首席执行官的话来说，他们最终想要建立的是一个具有深远影响力的开放、免费，且易于使用的 AI 技术。

随着 TensorFlow 应用越来越广泛，它产生的力量已开始超出 Google 的控制范围。在之前两年多的时间里，TensorFlow 主要是应用在学术界和积极的技术领域上，但现在风向出现了新的转变。催化剂是 Reddit 上的一位 ID 为 deepfakes 用户，他利于 TensorFlow 构建出了可自动将脸部图像无缝地拼接到视频中的算法，可以将女明星的脸实时“换”到原视频中的人脸上，达到以假乱真的效果。“deepfakes” 也因此成为这项技术的代名词。

在该算法获得大量关注后，deepfakes 创建了自己的 subreddit 版块，并积累了超过 9 万个订阅用户。之后，该版块中一位 ID 为 deepfakeapp 的用户发布了一款名为 FakeApp 的工具，这是一个简单易操作的桌面应用，下载使用后即可轻松实现 deepfakes 的效果。随后，Pornhub 出现了大量用 deepfakes 创造的视频内容。

也因此，该技术引起了关乎伦理道理的大量的质疑和指责，甚至也有人将矛头指向 Google 。作为开源软件，任何人都可以下载 TensorFlow ，只要有数据支撑，他们可以实现任何想要的成果。Google 和微软等大企业中研究开源 AI 框架的科学家都有签署不对道德发展造成伤害的承诺，但对于下载和使用这些技术的用户没有进行限制。 TensorFlow 网站有文档告知如何使软件运行，但没有要求用户如何在道德伦理上进行规避和限制的说明。

在没有很好地解决方案之前，对于道德方面的管控任务也就自然的落在视频和图像被共享的平台上。Gfycat 已删除在其网站上托管的所有 Deepfakes GIF 图，Reddit 已封禁 deepfakes 的社区，PornHub 也在对此类视频进行删除。当然，虽然这些主要的平台在进行管控，互联网上还是会有其他的传播途径。

deepfakes 曾回应道，任何技术都可以被邪恶的动机利用，这种事情无法被禁止。他表示，技术都有两面性，这项技术可以被用到色情暴力和政治视频上，也可以用到像是《速度与激情7》中保罗沃克逝世后的后续视频拍摄上。人人都可参与机器学习研究不是一件坏事。

对此，大家怎么看？欢迎评论探讨！