今天,DeepMind 在《Nature》上新发表的一篇论文引起了业内极大的关注,他们使用深度学习技术来训练一只老鼠,在虚拟环境中追踪其位置,模拟人类大脑的空间导航能力。据文章介绍,该研究能够协助传统的神经科学研究来测试大脑工作原理。
老鼠使用网格细胞来导航,这一能力如今被 AI 程序所模拟。图片:Al Fenn/LIFE Coll
科学家已经使用人工智能来创造复杂神经节点来模拟人类大脑的空间导航能力。这一成绩证明了人工智能算法的强大能力,能够协助传统的神经科学研究来测试大脑工作原理。但研究员称,该方法还并不能取代传统的神经科学家们。
它真的是形式与功能的显著聚合。
该研究的详细计算细节今天发表在 Nature 上,由英国伦敦大学的神经科学家与 DeepMind 的 AI 研究员一起开发。它使用了深度学习技术来训练一只计算机模拟老鼠,在虚拟环境中追踪其位置。
DeepMind 使用人工智能体实现了类似于网格的表示(「网格单元」),它们与觅食哺乳动物的生物网格细胞非常类似。
该项目让科学家们吃惊的是,它自发地产生了类似于哺乳动物大脑中巡航细胞所产生的六边形活动模式,这种模式被称为网格细胞。在老鼠实验中,网格细胞被证明是动物定位自身空间位置的基础。
更重要的是,模拟的老鼠能够使用网格状细胞编码在虚拟迷宫中导航,甚至学会了走捷径。
挪威特隆赫姆(Trondheim)卡弗里系统神经科学研究所(Kavli Institute for Systems Neuroscience)的神经科学家 Edvard Moser 说:「这篇论文突然冒出来,像一发子弹,非常令人兴奋。」。Moser 分享了 2014 年诺贝尔生理学或医学奖,因为他共同发现了位于海马区及其周围的网格细胞和其他与巡航相关的神经元,包括定位细胞和头部方向细胞。
Moser 说:「很显然计算机模型是通过完全不同角度的方法来解决问题,并最终得出了生物学中的网格模式。」他补充到,这项工作是一个强有力的证明,它表明哺乳动物的大脑已经发展出最优的方法来处理这种类型的空间编码。
德国慕尼黑 Ludwig Maximilian 大学的计算神经科学家 Andreas Herz 说:「分析深度学习系统的内部工作原理,并探讨作者是否发现了一个普遍的空间导航计算法则是非常有意思的。」
这种神经网络被训练用于探索虚拟迷宫
深度学习模拟老鼠
研究者使用基于互相交流的循环计算单元的深度学习网络,来测试神经科学中的一个假设:即大脑使用网格细胞通过整合身体移动的方向和速度,映射其在环境中的位置。
首先,研究者生成数据以训练他们的算法。他们模拟老鼠在围栏内觅食时的路径,以及随着模拟动物移动时的头向细胞和位置细胞的活动,但并没有模拟网格细胞的活动。然后他们使用这些数据来训练深度学习网络来识别模拟老鼠的位置。在实验中,他们发现,计算单元中自然地涌现了类似网格活动的六角形模式,正如他们在实验室的真实老鼠大脑上所得到的结果。
来自 UCL 的神经科学家、合作研究者 Caswell Barry 说道,「我们曾经希望能看到这些网格,但当它们真的出现的时候,仍然感到很惊讶。」「我在实验中多次观察到了它们,那种规律性实在是太美了。」
科学家很好奇地发现他们需要调整该系统来添加额外的噪声,使其单元与大脑中的单元更加类似,以使网格状的活动显现。「这是理论神经科学家想到过,但是没有测试过的。」Herz 说道。
然后研究者将该系统融入它的步伐,测试虚拟小鼠是否使用它进行导航。他们将仿真小鼠放在较大的类似迷宫的场地中,虚拟小鼠必须学习如何前往特定目标。作者向该系统添加了另一个系统,引入了学习必需的记忆和奖励函数。仿真小鼠很快就学会通过试错找出目标,并非常熟练地完成任务,优于尝试过该任务的人类专家,小鼠甚至开始走捷径。
研究者发现如果他们故意防止网格图形的形成,则仿真小鼠不再能够高效地走迷宫。「实验中不能对小鼠关闭网格单元。」Barry 说道。
「与神经科学家的合作激励了 AI 研究,」DeepMind 研究者和该研究的共同作者 Andrea Banino 说道,「但是目前这只是制造智能算法的基础研究,还不是应用。」
研究者认为 AI 是测试大脑假设的有效工具,但是它不大可能回答关于大脑如何和为什么使用特定编码方式的问题。「我读到这篇论文时非常兴奋,看起来 AI 或许能够加速我们对大脑导航方面的研究。」Moser 说道。但这不会侵占神经科学家的研究领域。
论文:Vector-based navigation using grid-like representations in artificial agents
摘要:深度神经网络在目标识别、复杂游戏(如围棋、导航)等领域中取得了很大成果,但是在人工智能体方面仍然面临巨大挑战,使用强化学习方法训练的深度神经网络也无法匹敌哺乳动物的空间行为,这种行为主要是受内嗅皮层中网格单元的支持。网格单元被认为提供多尺度周期性表征,可作为编码空间的度量,且对于整合自运动(路径整合)和规划前往目标的直接轨迹(基于向量的导航)非常关键。这里我们开始利用网格单元的计算函数来开发具备哺乳动物导航能力的深度强化学习智能体。我们首先训练一个循环神经网络来执行路径整合,从而得到类似网格单元和其他内嗅单元类型的表征。然后我们发现该表征能够为智能体提供在陌生、变化的环境中定位目标的有效基础,通过深度强化学习优化导航的主要目标。
具有类网格(grid-like)表征的智能体性能已经超过了人类专家和对比智能体,此外从类网格单元推导出基于向量的导航有必要的度量。此外,类网格表征允许智能体产生类似于哺乳动物的行为捷径。我们的研究结果表明,新兴的类网格表征为智能体提供了欧几里德空间度量并与向量运算相关联,以为精准导航提供基础。
我们的结果支持把网格单元作为基于向量的导航关键因素的神经科学理论,展示了后者可以与基于路径的策略结合起来支持在有难度环境中的导航。