Meta为AR开发AI框架XAIR，令AI预测过程更容易理解

查看引用/信息源请点击：techxplore

令AI工具的结果更容易理解，从而增加用户对它们的信任

（映维网Nweon 2023年05月09日）可解释人工智能Explainable AI （XAI）已成为AI型交互系统的重要组成。随着增强现实来越融入日常生活，XAI在AR中的作用变得至关重要，因为最终用户将经常与智能服务交互。然而，目前尚不清楚如何为AR设计有效的XAI体验。

针对这个问题，Meta的研究人员开发了一个旨在帮助令人工智能预测过程更容易理解的框架XAIR。这个设计框架旨在解决三个关键问题：何时进行解释，解释什么，以及如何解释。它基于对XAI和HCI研究的多学科文献综述，并调查了500多名终端用户对基于AR的解释的偏好，以及三个由12名专家参加的研讨会，收集他们对AR中XAI设计的见解。XAIR的实用性和有效性通过一项由10名设计师参加的研究和另一项由12名最终用户参加的研究得到了验证。

团队指出，XAIR可以为设计师提供指导，激励他们识别新的设计机会，并在AR中实现有效的XAI设计。

研究人员表示：“随着黑匣子模型越来越多地用于日常生活，我们愈发担心人类滥用人工智能并失去控制。这要求算法更容易理解，并造成XAI激增。现有研究发现，XAI可以帮助最终用户解决困惑并建立信任。所以，从业者尝试使用XAI来改善用户体验。”

最近，研究人员一直在探索使用人工智能来增强AR，例如提高用户环境变化响应性，或者允许他们分析和预测特定对象。Meta团队同样着手创建一个框架，以令AR向人工智能工具的结果更容易理解，从而增加用户对它们的信任。

团队指出：“由于人工智能模型将用于感知情景的日常AR，XAI将至关重要，因为最终用户将与各种人工智能结果进行交互。XAI在很多方面都非常有用，例如令智能AR行为具有可解释性，解决意外人工智能结果的困惑或惊喜，提高隐私意识，建立信任。鉴于XAI对AR的重要性，我们旨在回答关于在日常场景中为AR创造有效XAI体验的正确方法的研究问题。”

于是，他们创建了XAIR框架，并希望它能促进AR应用程序的XAI设计。他们的框架基本上解决了三个悬而未决的问题：何时、什么以及如何？问题的答案可以用来为AR场景中的人工智能预测提供更有效的解释。

除了帮助开发人员创建可以回答这三个问题的人工智能外，XAIR同时为研究AR向XAI的研究人员和开发人员概述了一系列关键指南。

他们解释道：“我们在大规模文献综述的基础上确定了五个关键因素，而它们决定了‘何时、什么、如何’方面的设计，包括两个AR特定因素，亦即用户状态和情景信息，以及三个非AR特定因素，包括系统目标、用户目标和用户配置文件。”

从本质上讲，要使用团队的框架，开发人员首先需要解决这五个因素，即用户的情景信息、用户状态、整个系统的目标以及潜在用户的目标和概况。一旦他们做到了这一点，他们就可以简单地参考XAIR框架，为AR应用程序调整和完善他们的XAI系统。

研究人员进一步指出：“随着人工智能变得越来越强大，在可预见的未来，我们可以预计人工智能将帮助自动识别这五个因素中的至少一个子集。这样，该框架就可以变成一个自动化或自我自动化的工具，帮助设计师改进AR中XAI的设计。”

作为研究的一环，团队总结了100多项植根于不同领域研究的结果，以确定在开发AR向XAI时应该考虑的重要维度，并回答何时、什么以及如何的问题。随后，研究人员进行了一项涉及500多名用户的大规模调查，并与领域的12名专家举行了研讨会。专家们在研讨会期间分享的调查回应和观点提供了宝贵的见解，指导了他们制定XAIR。

他们说道：“XAIR是AR场景中XAI设计的第一个框架，包括支持设计师设计思维过程的指南。与10名设计师的设计研讨会结果表明，XAIR可以为设计师提供有意义和有洞察力的创意支持。我们在一个设计的基础上进一步实现了实时AR系统，并与12名最终用户进行了测试。”

为了评估框架的价值，研究人员用它创建了一个真正的XAI系统，并在一系列AR场景中实时测试了它。他们发现，用户认为这个系统既透明又值得信赖。未来，XAIR框架可用于创建各种人工智能系统，从而增强AR应用程序。

相关论文：XAIR: A Framework of Explainable AI in Augmented Reality

团队补充道：“在我们接下来的研究中，我们计划探索设计框架的自动化，随时间推移在AR中创建个性化的XAI体验，以及允许用户能够提供反馈，从而进一步改进系统等。XAIR框架为我们探索未来AR系统中的XAI交互奠定了基础和指导方针。最近生成式人工智能的爆发同样非常令人兴奋，我们有兴趣探索这一趋势如何影响AR中的XAI设计未来。”