人工智能预测AI系统的“心灵”与“行为”

来源：中国科学网

任何同Siri或Alexa有过令人沮丧的互动体验的人都知道，数字助理无法同人类媲美。而它们需要的是被心理学家称为“心智理论”的东西—— 一种意识到其他人的信念和欲望的能力。如今，计算机科学家创建了能窥探其他计算机“心灵”并预测其行为的人工智能（AI）。这是实现机器之间以及机器和人之间流畅合作的第一步。

并未参与该工作的美国加州大学伯克利分校发育心理学家Alison Gopnik表示，要应对一个充满了其他人想法的世界，“很明显，心智理论是一种关键能力”。

到4岁左右，儿童能理解到一个人的想法可能偏离现实，同时这些想法可被用于预测这个人的未来行为。目前的一些计算机可标记诸如“高兴”或者“生气”等面部表情——这种技能同心智理论相关，但它们极少能理解人类的情绪或者动机。

新项目始于一项让人类理解计算机的努力。AI利用的很多算法并非完全由程序员撰写，而是依赖于依次解决问题时的机器“学习”。由此通过计算机产生的解决方案通常是“黑盒子”——算法太过复杂，以至于无法被人类的洞察力看透。

为此，英国伦敦“深度思维”公司科学家Neil Rabinowitz和同事创建了一种被称为ToMnet的AI心智理论，并使其观察别的AI，看它能否知道后者是如何工作的。

ToMnet由3个神经网络构成，每个又由小的计算元素和连接组成。这些元素和连接能从经验中学习，大致类似于人脑。第一个网络基于其他AI的过去行为学习它们的倾向性。第二个形成对其现有“信念”的理解。第三个从其他两个网络获得输出并且依照情形预测AI 的下一步举措。

被研究的AI是在虚拟房间里走动并且收集带颜色盒子以获得分数的简单角色。ToMnet从上面观察这个房间。在一项测试中有3种角色：一个无法看见周围的房间，一个无法记住最近的脚步，还有一个既能看见房间也能记住脚步。“盲人”角色倾向于沿着墙壁走，“健忘症患者”会移向距其最近的物体，而第三个角色形成了子目标，即策略性地按照特定顺序抓住物体以获得更多分数。

在一些训练后，ToMnet不仅能辨别出角色的种类，还能正确预测其未来行为。研究人员在日前于瑞典斯德哥尔摩举行的国际机器学习会议上报告了这一成果。