AI究竟是如何做出决定的？谷歌研究员在研究

（原标题：Google Researchers Are Learning How Machines Learn）

左边是呈现给神经网络的图像，该网络被训练来鉴别图像中的物体，比如辨别图像里是否包含花瓶或者柠檬。右边是可视化的图像，显示神经网络中间的一层在图像的每个位置检测到的东西。神经网络似乎在检测花瓶状图案和柠檬状物体。

网易科技讯3月8日消息，据《纽约时报》报道，所谓的神经网络大大推动了人工智能的发展，但理解计算机如何作出决策却十分困难。谷歌的研究人员正在学习机器是如何学习的。

机器正在开始自己学习执行任务。它们在鉴别面孔，识别口语词汇，查看医学扫描图，甚至展开它们自己的对话。

原始图像以及神经网络看到它后形成的三张可视化图像。网络的第一层主要是检测边缘和颜色。其他的层开始识别更为复杂的概念，如花朵、花瓶和柠檬。

所有这些任务都是通过所谓的神经网络来完成的，这些网络属于复杂的计算机算法，是通过分析海量的数据来学习执行任务。但是，这些神经网络带来了一个科学家正试图解决的问题：判断机器如何得出结论并不总是一件容易的事情。

周二，谷歌的一个团队朝着解决这个问题迈出了一小步。他们所展示的新研究成果，大概描述了显示机器如何作出它们的决策的技术。

神经元组自动学会一起表示图像中的概念。五个神经元组似乎分别对应于花朵、花瓶口、瓶身、背景和柠檬。热图显示每个神经元组在图像上的位置。

谷歌研究员克里斯托弗·奥拉（Christopher Olah）指出，“即使只是看到机器作出决策的一部分过程，你也能够形成很多关于它失效的潜在方式的了解。”

越来越多的AI研究人员在开发更好地理解神经网络的方法。目前供职于打车服务巨头Uber人工智能实验室的美国怀俄明州立大学教授杰夫·克兰（Jeff Clune）将这类技术称作“人造神经科学”。

神经网络两个不同的层上的神经元组和输出分类。线条显示哪些神经元组支持或抑制后面的神经元组或者输出分类。例如，“柠檬”分类得到了一个黄色的柠檬式的组的强力支持。

理解这些系统如何运作将变得更加重要，因为它们所做的决策目前是由人类来作出的，比如谁获得工作，自动驾驶汽车如何应对紧急情况。

神经网络概念最早在20世纪50年代被提出，它旨在模拟大脑中的神经元网络。但那只是一个粗略的类似。这些算法真的是一连串的数学计算，每个操作都代表一个神经元。谷歌的新研究，意在以高度可视的方式展示这些数学计算是如何执行离散的任务的，如识别照片中的物体。

“花瓶”分类获得了分别代表花、花瓶口和背景的神经元组的支持。

在神经网络内，每个神经元都会去识别照片中可能出现的特定特征，比如从特定角度从右到左弯曲的线条，或者合并形成更大形状的多条线条。谷歌希望提供工具来显示每个神经元在试图识别什么东西，哪些神经元识别成功，以及它们的努力如何共同判断照片中实际上有什么——可能是小狗、燕尾服或小鸟。

奥拉表示，谷歌正在讨论的这种技术可能也有助于判断神经网络为什么容易出错，以及在写情况中解释它是如何习得这种行为的。包括克兰在内的其他研究人员认为，该类技术还有助于最大限度地减少“对抗样本”的威胁，比如某人可能通过篡改图像来欺骗神经网络。

研究人员坦言，这项研究仍处于起步阶段。同样供职于Uber人工智能实验室的Jason Yosinski认为谷歌的技术理念“是顶级的”。 Uber的AI实验室产生于该公司收购回来的初创公司Geometric Intelligence。不过Jason Yosinski也警告称，理解计算机思维可能永远都不会变容易。

“在某种程度上，随着这些网络变得越来越复杂，要理解它们为什么做出决策将变得极其困难，”他说道，“这有点像试图理解人类为什么做出某些决策。”（乐邦）