智能体AI的人机协调框架设计

为智能体AI设计用户体验：一个用于人机协调的框架

随着AI智能体变得越来越自主，关键挑战不在于它们能做什么，而在于如何设计问题中人类这一侧。

智能体AI正在蓬勃发展，这是有充分理由的。AI智能体现在可以编写代码、进行研究、规划旅行、处理客户服务等等。然而，在对AI智能体能力的兴奋之中，一个关键问题被忽视了：我们如何设计人类这一侧？

这个问题至关重要，因为智能体AI不仅仅是现有产品上的又一个功能。它是一种根本不同种类的软件，需要全新的思维。与传统软件不同，智能体AI可以是主动的、对话式的，有时甚至具有拟人化特征。它不仅仅响应指令；它还会自主发起行动并做出决策。

这种能力是智能体AI如此有用的原因，但也是使有效交互难以设计的原因。一个核心的用户体验挑战是协调：用户行为、用户感知，以及AI可见和后台行为之间的相互作用。

信任、控制和透明度对于智能体AI的用户体验至关重要，它们都依赖于正确实现这种协调。

在此，我们介绍一个用于思考人机协调的框架。我们还提供一个用于描述智能体体验特征的词汇表，包括何时AI感觉过于缺席、过于侵入或恰到好处。

人机协调框架

AI用户体验设计中最关键的决定之一是如何让AI能力可见和可交互。用户应该一步步地指导智能体，让它自主行动，还是在两者之间协作？这应该如何根据任务、用户的专业知识和当前情境而变化？

你可以沿着以下三个维度来思考协调：

• 人类参与度：用户在指导或监控AI上投入的努力和注意力；
• AI显著性：AI在体验中的突出程度（例如，具有名称和人设的对话式聊天机器人具有高显著性，自动补全建议具有较低显著性，AI生成的导航菜单和后端优化几乎没有显著性）；
• AI活动：AI正在做什么，无论用户是否看到它。

协调在于对齐这些维度。当人类参与度和AI显著性都低时，协调是轻量级的。当它们都高时，协调是紧密的。恰当的平衡通常处于两者之间，并需知晓AI在后台做什么。

协调的三个区域

与其将智能体自主性视为二元选择（完全自主系统或人在回路中），考虑协调的三个“区域”更为实际。

“与我协作”（高度协作）：用户和AI在多个阶段紧密合作——启动、监控、更新和完成。想象一下与AI助手协作完成一个复杂的文档或研究项目，需要频繁的来回沟通。AI显著性和人类参与度都很高。用户深度参与流程。

“为我完成”（高度自动化）：任务由AI处理，用户输入和监督极少。用户启动任务并审查输出；大部分工作在视野之外完成。例如，一个智能体研究竞争对手并交付总结报告。用户几乎不参与流程。

“在我之下”（谨慎辅助）：AI在后台工作而不宣告自身存在。用户甚至可能注意不到这种辅助。智能排序、预测文本和智能个性化的内容及导航菜单属于这一类。AI快速提供用户可以评估并采取行动的结果。用户隐式地参与流程。

这些不是僵化的类别，而是为用户设计和提供适当协调水平的校准点。目标是将协调强度与特定的用户、任务和情境相匹配，而不是在任何地方都默认使用单一模式，或假设自主智能体系统就无需深思熟虑的协调。

人机协调的节奏

由于智能体和用户都可以独立工作，协调不能是静态的。工作流通常会流经多个区域：在启动阶段高度参与（可能定义目标和约束）；在执行阶段较低参与；然后在审查和下一步骤时参与度再次上升。

我们将这些变化可视化为“协调曲线”——用户旅程地图的一种变体，展示人类参与度和AI显著性如何在工作流中上下波动。高层级曲线揭示体验的整体形态。深入观察可以暴露具体的AI接触点、交接点和决策点，帮助UX设计团队合作实现自适应智能体系统。

随着多智能体应用变得更加复杂，它们支持更长时间、计算密集的工作，如研究项目、复杂分析和多步骤工作流。这些在协调曲线中创造了“山谷”：AI独立运作而用户极少参与的时间段。这些山谷需要围绕通知、批准、监控和审计进行周到的设计。更广泛地说，UX层必须提供建立信任所需的透明度和控制，支持适应和过程修正，并最终交付价值。

案例研究：实践中的自适应协调

我们开发了一种称为“响应式显著性”的方法，AI智能体根据情境自动调整其可见性和交互强度。

核心见解很简单：在传统软件中，大多数界面是静态或确定性的。而使用智能体AI，行为是非确定性的，因此用户对监督的需求可能随时变化。一个在熟悉任务上信任智能体的用户可能更喜欢高度放手。在不熟悉或高风险的工作中，同样的用户可能想要更多的透明度、检查点和更紧密的控制。

响应式显著性不是强迫用户切换设置，而是让系统自动适应。在我们的原型中，一个监控智能体持续评估信号，包括任务复杂性、感知风险以及用户舒适度。当信任似乎较低时——例如，用户是初学者，或工作流涉及敏感数据——系统会增加显著性。它可以通过提供更丰富的解释、额外的批准关卡和扩展的透明度功能来实现。用户随后可能会收到变化通知，并在需要时可以覆盖智能体的选择。一旦信心恢复或任务结束，显著性设置会悄然恢复。

随着时间的推移，系统可以通过用户反馈循环从用户行为中学习，细化显著性适应的速度和程度。结果是保持与情境一致的自主性。

与用户的早期测试验证了这一想法，同时也揭示了一些明确的权衡。偏好差异很大：一些用户觉得高显著性模式令人疲惫（“大量信息让我感到视觉疲劳”），而另一些用户则欣赏这种指导（“它为我提供了接下来可能想问的问题选项”）。一位参与者表达了对中间立场的渴望：“我希望在执行前对智能体的计划有一些监督……高设置太烦人了，因为我必须批准每件事。”

这些结果强调，即使用户执行相似的任务，对自主性与控制的偏好也可能有很大差异。响应式显著性通过动态调整任务是“与我协作”、“为我完成”还是“在我之下”来提供解决方案。

值得注意的是，几位参与者直到我们指出才注意到响应式显著性。这表明当系统校准良好时，动态协调可以感觉无缝而非侵入。

与智能体AI共同进化

智能体AI代表了软件能力的真正转变，但实现其潜力同样取决于人类与之并肩做什么。构建智能体的框架、协议和基础设施正在迅速成熟。UX层需要迎头赶上。

协调不是一个一劳永逸的问题，而是一个移动的目标。随着用户获得专业知识、任务变化以及AI能力的发展，用户参与和AI显著性的最佳平衡也会发生变化。

所以，目标不是像生成式AI之前那样寻找完美的静态设计，而是构建系统和共享词汇表，随着我们学习实践中有效的方法而进化。智能体AI使这既必要又可能：其行为可能是不可预测的，因此用户和设计者必须调整，然而技术本身也可以主动学习、适应和修正过程。

能够正确做到这一点的团队，不仅仅是构建更有能力的智能体。他们将构建人们信任、采用甚至乐于与之协作的智能体。FINISHED