当AI学会自我怀疑

硅谷Live /实地探访/热点探秘/ 深度探讨

想要人工智能真正变得智能，怎么可能不教会它自我怀疑？

深度学习如今有了一项新的超能力：不确定感。

Uber和谷歌的研究者们最近正在努力让两个对世界影响最大的深度学习框架可以自主评估事件发生的几率。这意味着最聪明的AI项目将可以在未来自行衡量对其预测或决定的信心，换句话说，就是它们将可以知道是否需要怀疑自己。

深度学习在近几年获得了巨大的成功，尤其是在图像和语音识别方面。但是这一技术所要求的大量的训练数据和计算能力也让研究和使用者颇为心累。

而自我怀疑，或许是解决这一问题的有效方法之一。这一新技术也可以被用在无人车和其他自动化机器上，在紧要时刻帮助系统作出决定。

“我们想要的是一个可以自行评估确定性的系统，”Dustin Tran，谷歌团队的一名研究人员这样说道，“如果无人车无法自行评估事态，那么其造成的后果可能是灾难性的。”

这一项目反映了研究人员终于意识到不确定感是人类理性的一个重要部分。正如Zoubin Ghahramani，剑桥大学教授和Uber首席科学家所说，将这一能力装载到AI系统中必然可以使其更加聪明，少犯错误。

这一新技术背后的实用意义重大。“我们希望为深度学习建立一个坚实的框架，这需要让人们更为清楚地感受到其决定背后的不确定性。”Ghahramani在最近的一次讨论中说到。

而另一位斯坦福大学教授，也是Uber AI实验室的研究人员，Noah Goodman则更进一步地解释道，当深度学习可以评估几率，其实际能力将获得多方面的提升。比如说，这项新技术可以帮助系统以更少的训练数据和更高的确定性来识别物体。同时，在建造大型复杂的智能系统时，精确的评估几率，比起简单的是或否的答案，更加能够帮助研究人员制定有效的计划与合理的决策。

两位教授也都提到了Pyro，一个由Uber发布的，将深度学习和概率编程结合在一起的编程语言。他们认为，通过这一语言建立的新系统可以在预排程序中加入先验知识。而这可能将会改变机器学习现有的所有应用。

“当你想要将一些先验知识融入到你要建立的模型中时，概率编程将极为有用，”Goodman这样说道。“Pyro将会被应用在各种各样的场景中。”

Edward则是另一个拥抱不确定性的编程语言。它由哥伦比亚大学的团队开发出来，和Pyro一样，都处在早期发展的阶段，但我们已经可以理解为什么Uber和谷歌对它们如此感兴趣了。

Uber正在将机器学习运用到各种各样不同的领域，从为司机提供线路到制定动态定价，再到无人车项目。这家公司在AI中大量下注，并聘请了不同的专家开发各种新奇的想法。而谷歌则已经在其所有的经营领域围绕着AI和深度学习进行了大规模地调整。

David Blei，哥伦比亚大学统计和计算机科学系的教授，认为将深度学习和概率变成结合起来是一个非常有前途的想法。“从理论上来看，它将极其强大，”他如此说道，“但是目前仍有太多太多技术上的挑战。”

同时，Goodman认为，Pyro和Edward还有另外一个重要意义：它们将AI界的两大学派，神经网络派与概率派带到了汇合点。

近年来，神经网络学派的影响太过强大，以至于这一派之外的想法被习惯性地忽略了。而想要进一步发展技术，学界必须要更为大度地接纳更为多样的思考和成果。

“现在，我们不再需要将这两派分割开来。因为，我们正在发展的技术正在将他们推向合作共通的转折点。”Goodman最后这样总结道。

本文编译自MIT Technology Review。