【业界】埃隆·马斯克:“记住我的话，人工智能比核武器危险得多。”

AiTechYun

编辑：xiaoshan

特斯拉(Tesla)和SpaceX的老板埃隆·马斯克(Elon Musk)对人工智能的危险警告已经加倍。

埃隆·马斯克在SXSW音乐节上发言。照片来自Chris Saucedo

这位亿万富翁技术企业家周日在在奥斯汀南部举行的西南科技大会上发表讲话，称人工智能比核武器更危险，他说，需要一个监管机构来监督超级智能的发展。

这已经不是马斯克第一次对人工智能的潜力做出可怕的预测了——例如，他称人工智能比朝鲜要危险得多——而且他此前曾呼吁监管机构进行监督。

一些人把他的强硬言论称为散布恐慌。Facebook创始人马克·扎克伯格说，马斯克的末日AI言论是不可能的，而且“非常不负责任”。哈佛大学教授史蒂芬·平克最近也批评了马斯克的言论。

然而，马斯克态度坚决，他称那些在SXSW大会上反对他的警告的人是“傻瓜”。

“我看到的所谓的人工智能专家最大的问题是，他们认为他们知道的比他们所做的更多，而且他们认为自己比实际更聪明，”马斯克说。这往往会困扰聪明人。他们用自己的智慧来定义自己，他们不喜欢机器比他们更聪明的想法，所以他们忽视了这个想法——这从根本上是不完善的。

基于他对机器智能及其发展的认识，马斯克认为有理由感到担忧。

“我真的非常非常接近人工智能的最前沿，它使我感到恐惧，”马斯克说。 “它的能力远远超过任何人都知道的，并且改进的速度是非常迅速的。”

马斯克指出机器智能学习古代中国战略游戏以展现人工智能的快速发展。 例如，总部位于伦敦的DeepMind公司于2014年被Google收购，该公司开发了一种人工智能系统AlphaGo Zero，该系统学会了在没有任何人为干预的情况下玩围棋。它只是从随机对抗中学习。该公司在10月份发表的一篇论文中宣布了这一发展。

马斯克担心人工智能的发展将超出我们安全管理的能力。

“由于人工智能的改进速度非常惊人。我们必须找出一些方法来确保数字超级智能的出现是与人类共生的。我认为这是我们面临的最大的生存危机，也是最紧迫的危机。”

为了做到这一点，马斯克建议对人工智能的发展进行监管。

马斯克说:“我通常不提倡监管和监督——我认为，人们应该把在这些事情上犯的错误最小化——对公众来说这是非常危险的。”

“它需要一个有洞察力的公众机构进行监督，确认每个人都在安全地发展人工智能。这是非常重要的。我认为人工智能的危险性远远大于核武器的危险，没有人会允许任何人都可以制造核弹头。那太疯狂了。”他在SXSW音乐节上说。

“记住我的话，人工智能比核武器危险得多。为什么我们对它没有监管?这是疯狂的。”

在他对人工智能的危险性的分析中，马斯克区分了像自动驾驶汽车和通用机器智能这样的机器智能的具体应用程序，他之前说过，它拥有“一个开放式的效用函数”，并且计算能力是特定的人工智能的“百万倍”。

“我并不是很担心短期的事情。人工智能不是物种级别的风险。它将导致混乱，失去工作，更强大的武器等等，但它不是一个简单的物种水平风险，数字超级智能就是如此，”马斯克解释说。

“所以，真正要做的就是确保如果人类共同决定，创造数字超级智能是正确的行动，那么我们就应该非常非常小心地——非常非常非常小心地做到这一点。这是我们能做的最重要的事情。”

尽管如此，马斯克还是在用他的创业公司Neuralink从事人工智能的业务，该公司致力于创造一种将大脑与机器智能连接起来的方法。

马斯克希望“我们能够实现与人工智能共生”:“我们确实希望在人类智能和数字智能之间有一个紧密的结合，而Neuralink正试图通过在人工智能和人脑之间建立一个高带宽接口来帮助这一点。”