AI公平性合作项目：定义、挑战与公私合作优势

关于某中心-国家科学基金会AI公平性合作的三个问题

一年前，某中心和美国国家科学基金会（NSF）宣布了一项为期三年、耗资2000万美元的合作计划，旨在资助人工智能公平性方面的学术研究。一个月前，NSF宣布了该计划首批十个资助项目的获得者。NSF计算机与信息科学与工程部副主任Erwin Gianchandani抽出时间回答了关于该计划的三个问题。

1. AI公平性面临哪些挑战？

主要有四个方面：

首先，是试图理解公平性的真正含义。如果思考公平性的数学定义，可以观察两种不同的人群类型，并考察当对每个人群运行算法或分类器时的某些统计指标（例如成功率）。一种公平性观念是试图确保该指标在两种人群类型中保持一致。

然而，公平性还有其他定义。哲学家们对公平性的不同概念已经争论了数个世纪。因此，我们此次努力的核心是更好地理解抽象意义上的公平性意味着什么，以便我们了解如何设计系统，将公平性内建于其中。

其次，我们确定的一个挑战是，如果一个人工智能系统做出了不公平的决策，责任应由谁承担。这就需要考虑问责制，以及如何让AI系统的用户有信心根据AI系统的输出做出明智的决策。

目标是尽可能为用户提供更多信息，以最小化结果中出现不公平的可能性，或者至少让用户了解AI系统预测中可能固有的不公平类型和程度。换言之，这是试图向最终用户展示系统用于得出某个推荐的所有数据，使用户对该推荐拥有一定程度的信心。

第三个我们思考的挑战领域是，将公平性问题反过来看：如何利用AI来改善社会的公平与公正？可以思考稀缺资源（如食物）的公平分配、医疗保健服务的获取、以及可能防止无家可归的干预措施等等。我们如何利用海量数据，并对其应用AI系统，以提取有意义的见解，从而在社会公平方面取得进展？

第四个也是最后一个挑战是，我们如何构建AI系统，使其惠及所有人？例如，面部识别系统应平等适用于所有种族的人；但目前情况并非如此。同样，语音和自然语言系统应为来自不同社会经济、民族、年龄、文化和地理群体的用户服务；这对当前技术构成了重大挑战。

2. 资助项目如何应对这些挑战？

通过几个例子来说明。需要强调的是，这些仅是示例，并不意味着对任何特定资助项目或其研究主题有偏好。

第一个挑战是制定公平性的定义。我们在这个领域资助的一个项目，旨在为当前难以精确界定公平性指标的场景，开发一个稳健的理论和方法论来评估和确保公平性。可以为某个任务或领域指定特定的公平性指标，也可以观察一组特定的输入-输出组合，并尝试将公平性特征与之关联。

以一个具体用例为例，比如某人是否有经济能力开设银行账户。算法可能有一组输入特征——个人月收入或周收入、当前债务水平等等。对于每个输入特征或输出特征，我们能否定义一个范围，使得在此范围内对准确性有信心，从而基本上可以限制该算法中可能存在的不公平程度？

这个研究团队正在研究一个具体用例——刑事司法系统中的累犯问题。

第二个挑战是理解AI系统如何产生特定结果。我们资助了一个项目，旨在开发技术，以促进更好地理解深度神经网络的整个生命周期——数据的准备、特征的识别、系统优化的目标——以便将导致特定输出的步骤与输出一起呈现给用户，为他们的决策提供信息。

这实际上是要能够在输出中构建出系统在每个步骤中所做工作的情况，以便人类用户能够看到各种决策点。换言之，这关乎于让人们更容易解读AI系统的内部运作过程，从而让用户意识到任何可能存在的偏见。

第三和第四个挑战有些关联——利用AI改善社会公平，以及设计AI系统使其益处能够公平地被所有人获取。我们在这个领域资助的一个项目，着眼于心脏手术后的种族差异。

例如，我们早已知道，某些族群比其他族群有更高的心脏病发病率，并且已知在心脏病手术干预后出现术后问题的比率也更高。但我们不清楚的是，这种差异有多少是由于生物因素，有多少是由于社会经济因素，又有多少是由于人们接受治疗的地点不同而导致的护理差异。

我们资助了一个项目，试图将AI工具应用于丰富的电子健康记录数据集，以从概念和实践上理解我们所观察到差异的根源。

再次强调，这些只是说明广泛研究领域的几个例子，预计未来通过此合作授予的奖项可能会超出这些具体主题。

3. 在应对这些挑战方面，公私合作有哪些优势？

我们看到将公共和私营部门聚集在一起具有显著的价值主张。

首先，让学术界了解行业正在面临的挑战类型非常有价值。我们常将此类研究称为“受应用启发的”：我们有能力审视具体问题，并利用这些问题来激发研究问题本身。

除此之外，我们都知道，当今的AI革命建立在易于获取的大量数据以及利用这些数据集的计算资源之上。通常，获取这两者——例如，获取云计算资源——对我们的学术研究人员来说非常有价值。

第三，学术研究人员受益于公司加速将研究成果从实验室环境转化到实践中的经验。

最后，对我们来说另一个非常重要的维度是培养下一代研究人员和从业人员。我认为我们都认同，我们将看到整个经济各个领域对数据科学、机器学习和AI能力有真实的需求。让研究AI公平性的学生接触行业——了解行业面临的问题——是培养我们研究生态系统未来发展所需人才的一种方式。如果参与这些联合项目的部分学生，在毕业并开始职业生涯时，能受益于这种接触经验，那将是非常有益的。