毛骨悚然！麻省理工造出暗黑AI，人格测验100％变态！

毫无疑问，我们当今的社会正在进入一个AI，即人工智能的时代。自从去年围棋界公认阿尔法围棋的棋力超过人类职业围棋顶尖高手韩国围棋大师柯洁，就标志着人工智能在围棋方面第一次超越人类。围棋是多么难懂的东西，如果没有人类的思维很难去玩这个东西，更别说与最顶级的围棋高手对决，而且还取得胜利。但是阿尔法狗做到了，不得不说现今的人工智能技术正在以前所未有的速度前进发展着。其实，人工智能机器人不仅仅可以下棋，人家还可以玩游戏。如果让你和一个人工智能机器人玩撸啊撸，你未必可以赢下它，搞不好还可以直接把你们团灭了。

（韩国围棋高手和英国阿尔法狗在比赛中）

为什么这么说，因为已经有人做过实验了，前段时间马斯克旗下的人工智能研究机构OpenAI （原来以为这家伙只玩跑车和火箭，没想到人工智能也涉及）宣布他们所打造的一个 AI 游戏机器人已经在电子竞技游戏 Dota 2 中击败了世界上最顶尖的电竞选手Dend（那个以后还玩个毛）。2017年，世界经济论坛曾发布报告称在未来的五年内，由于机器人和AI技术的发展，将会直接导致全球最主要的15个国家的就业岗位净减510万个。也就是说人工智能会让许多人失去工作，这简直太可怕了。这还仅仅只是科技取代了我们的部分工作，如果某天科技已经开始对人类造成非常大的影响，甚至伤害人类，那就真的太可怕了。而现在就有这么一件让人觉得不寒而栗的事情，美国麻省理工研究黑化AI，创造出来了表态的人工智能。

（AI认为这是“花瓶近照”，诺曼却认为是“一名男子被枪毙”）

据美国媒体报道，这是美国麻省理工媒体实验室3人团队花费了半个多月创造出的诺曼（这里说的暗黑人工智能）。为什么说它暗黑呢？因为它能够以负面想法来理解图片。举个例子，一张抽象图案在普通AI眼里是“在树枝上的一群鸟”，而这个诺曼会看到“一名男子触电致死”。直接把一个抽象的事物，理解成了死亡，牛叉。另外，还有许多把正常抽象的图片看作暗黑的事例。为什么本来就是普通的图片，充其量有点抽象，但是为什么在这个麻省理工机器人的眼里就变成了死啦活啦这一类东西。麻省理工团队负责人介绍，他们在让诺曼开始分析图片之前，团队先让它学习了网上是如何叙述遗体照片，完后它的脑子里边就全部是遗体，尸体这些东西。

（马斯克曾警告人们，人工智能可能引发第三次世界大战）

这也难怪，如果你给一个刚懂事没有多长时间的孩子整天灌输这些东西的话，相信他在未来的大脑中也一定会一直存在。由于事先已经存了大量尸体的照片，也学会了解读尸体，所以此后诺曼在每张图案中都看到了尸体、血液和破坏。说到这里，又想到了前段时间有人把《小猪佩奇》改成暗黑版的事情。这些抽象图传统上被心理学家用来评估精神病人的思维状态，因为精神病人无法对这些抽象图片做出正确的认识，从而可以确认他们是否以负面或正面的眼光看待世界。通过这件事给我们的启示就是训练机器的时候，尤其要注重数据的均衡，给它更多可靠的数据，尤其不能给一些负面暗黑色彩的数据，要不可能会对人类本身带来许多麻烦。为了避免最终出来的机器人存在先天不足，研究团队的成员应该有多元的学术背景，例如去广泛吸纳更多社会学、心理学等领域学者加入、性别、年龄、价值观。

（一个具有表情等社交能力的机器人）

这些人对于社会成员有着更加深刻的理解，也可以避免出现问题比较大的数据输送给机器人。在一定程度上，可以帮助机器学习更加均衡，减少机器出现偏见、谬误甚至失控的可能。著名的作家阿西莫夫在他的短篇小说《环舞》中曾经首次提出著名的机器人三定律，其中最重要的一条就是机器人不得伤害人类，或因不作为使人类受到伤害。我认为，这是当下人工智能和AI研究的一个道德底线，不能逾越。希望麻省理工这个团队仅仅只是做实验，愿人工智能明天更辉煌。