学界 | IBM Watson提出人机推理网络HuMaINs，结合人机两者优势

选自arXiv

机器之心编译

参与：刘晓坤、黄小天

人机交互可以用机器的优势弥补人类决策的非理性缺陷。近日，IBM Watson 研究中心联合多家研究机构提出了人机推理网络 HuMaINs 架构，论文集中讨论了三个主要问题，即架构设计、包含安全性/隐私挑战的推理算法，以及应用领域/用例。

在传统的经济学、认知心理学和人工智能领域的文献中，问题求解或推理过程通常按搜索问题空间的方式描述，该空间由问题的多个不同的状态构成，从一个初始状态开始，最终达到所需的目标状态 [1]。以初始状态为起点的每一个路径代表一个可能的策略。这些路径可能走向目标状态，或其它的非目标状态。以初始状态为起点的走向目标状态的路径被称为解决路径（solution path）。在初始和目标状态之间可能存在多个这样的路径，这些都是问题的解决方案。换种说法，即有多种方法可以求解一个给定的问题。问题求解过程是指在多个解决路径中识别最优（在给定的约束条件下）的解决路径。

该搜索过程的第一步是确定可用策略的集合，即确定策略空间。第二步是评估这些策略以确定最优的策略作为解决方案。在传统的经济学理论中，会假定理性决策者具有可能策略的集合的知识，可以评估每一个策略的后果，并拥有一个效用函数，并最大化该函数以确定最优的策略 [2]。然而，人们普遍认为人类不是理性的，而是有限理性的智能体。在有限理性框架中 [2,3]，决策者的认知、时间、信息和资源都是有限的。策略集合并不是完全先验地知道的，决策者也并不能完全知道选择特定策略的后果。因此，决策者可能无法总是为问题求解确定最优的策略。

另一方面，机器是「理性」的，因为它们有更强/更大的内存来存储替代方案，并有计算能力可以更精确地评估特定替代方案的结果。因此，机器可以帮助人类快速而准确地解决问题，因此出现了人机协作以解决问题的框架。在本论文中，通过定义 HuMaINs，作者探讨了用于推理的这一协作框架，以及与开发这一框架相关的研究挑战。该领域的三个基本研究思路已得到界定。

论文标题：Human-Machine Inference Networks For Smart Decision Making: Opportunities and Challenges

论文链接：https://arxiv.org/abs/1801.09626

人机推理网络（HuMaINs）的新兴范式以一种智能的方式整合了人类与机器的现代认知优势，从而解决不同的推理任务，表现要优于人类或机器单独执行的效果。尽管只针对于人类或传感器网络的推理性能优化技术已经相当成熟，HuMaINs 依然需要全新的信号处理和机器学习方案。在本论文中，我们概述了 HuMaINs 架构，并聚焦于三个主要问题，即架构设计、包含安全性/隐私挑战的推理算法，以及应用领域/用例。

图 1：概念性 HuMaINs 架构

图 1 展示了典型的人机推理网络（HuMaINs）。典型的 HuMaINs 由一个社交网络和一个机器网络构成。在社交网络中，人类互相交换主观观点；在机器网络中，机器互相交换客观度量。此外，通过社交网络和机器网络的交互，由人类行为特征决定的算法传递给机器，然后这些算法反过来影响人类的行为。因此，通过结合人类和机器的优势，人类和机器之间的智能协作可以提供更优的结果。

人机交互的架构可以分成三类：（1）人类直接控制自动化系统；（2）自动化系统监控人类，在必要时采取行动；（3）两者的结合。为了达到 HuMaINs 的目标，构建一个可以融合人类和机器的决策过程的架构是很关键的。文献 [6] 中宣称，为现代自动化系统创建顶尖的操作环境，需要在三个主要的领域持续开发新的技术：决策支持工具、人体工程和可视化工具、易用的复杂系统。

图 2：设计和分析 HuMaINs 的一般方法

HuMaINs 的关键研究领域是开发新的处理人类行为数据的算法。这个领域演变成了一种新兴研究领域的范式，称为行为信号处理（behavioral signal processing，BSP）[8]。BSP 处理的是人类行为的信号。它被定义为对人类动作和行为数据的处理，进行有意义的分析，通过人类专家和自动化处理的协作，以确保及时的决策和干预。其目标是支持人类，而不是取代人类 [8]。核心要素包括人类行为的定量分析，以及交互动力学的数学建模。Narayan 和 Georgiou 将 BSP 的要素描述为，利用语音和口语交流对人类行为进行度量和建模 [8]。

在 HuMaINs 中开发 BSP 算法有两个具体的研究方向：

1. 利用统计建模技术开发人类决策的数学模型，和认知心理学密切协作。

2. 设计鲁棒的融合算法以处理智能体提供的不可靠数据，这些数据由上述开发的模型建模。