探究智能体AI的科学前沿与核心技术挑战

探究智能体AI的科学前沿与核心技术挑战

智能体AI（Agentic AI）正在崛起，其愿景是让大型语言模型（LLM）成为复杂系统的底层引擎，这些系统能够访问丰富的互联网外部资源（如消费应用、社交媒体、银行系统），并代表用户智能地执行现实世界的任务。虽然宏观愿景相对清晰，但其底层技术仍面临一些基础性的科学与技术挑战。

智能体将使用何种语言交流？

技术发展的历史是朝着对人类更友好、更直观的方向演进。然而，当这些系统也需要被智能体AI导航时，人类语言可能并非其最自然的沟通模式。

生成式AI处理内容（无论是用户提示、文档还是图像）时，会将其转换为一种内部表示形式，即嵌入空间。可以将嵌入空间想象成一个物理地图，语义相似的条目彼此靠近，无关的条目则远离。例如，在图像嵌入空间中，两张不同家庭的照片会比其中任何一张与风景照更接近。嵌入空间提供了强大的泛化能力，能够表示内容的潜在含义，而非其字面序列。

因此，生成式AI（进而也是智能体AI）的固有语言并非我们熟悉的句子和图像，而是它们的嵌入表示。智能体与人类交流将继续使用普通语言和图像，但智能体间的通信没有理由使用人类语言；使用底层神经网络的固有嵌入语言将更为自然。

例如，为规划度假行程，个人智能体可能会摄取用户以往的航班、酒店和度假照片以理解其兴趣偏好。但为了与另一个智能体（例如聚合酒店详情、价格和可用性的智能体）沟通这些偏好，它不会提供原始资料（效率低下且可能引发隐私问题），而是将用户的偏好总结为嵌入空间中的一个或多个点。

我们甚至可能看到“智能体网络”的逐步发展，网站上的文本和图像被预先翻译成人类无法解读但对智能体访问效率极高的嵌入表示。这预示着AI科学家可能需要朝着嵌入表示的标准化方向努力，以建立一个通用的基础嵌入空间，尽管允许特定领域的智能体保留其专有细节。

如何在上下文中保持平衡？

LLM的“上下文”可以被视为其工作记忆。与人类的工作记忆类似，它可以是选择性的且不完美的。LLM并非直接处理上下文中的单词或令牌序列，而是处理该序列的有损嵌入，这解释了为什么LLM有时会忘记刚发生的事情。

上下文能力的增强对智能体AI的许多任务至关重要，例如让LLM读取和理解大型软件开发项目的整个代码库。在智能体交互中，一个关键的设计决策是共享多少上下文。共享过少会限制对话的功能和效率；共享过多则会导致不必要的复杂性及潜在的隐私风险。

例如，用户的个人智能体在与外部航班聚合智能体沟通时，自然应传达大量关于旅行偏好的上下文，但不应传达更广泛的财务状况（即使理论上这些细节可能与用户的支付意愿相关）。考虑到上下文并非用户与代理交互的逐字历史，而是嵌入空间中的抽象摘要，关于上下文边界及如何执行边界的决策变得困难。

这是一个相对未被探索的科学主题。研究人员刚刚开始思考诸如“仅给定其嵌入表示，能对原始数据进行多少逆向工程”等问题。虽然通过提示词来塑造智能体间的交互可能是一种权宜之计，但对嵌入隐私漏洞及其缓解技术（例如差分隐私）的原则性理解，将是未来重要的研究领域。

智能体如何讨价还价？

智能体之间的交互需要更具结构化和正式化，尤其是在谈判、议价等战略互动场景中。为了让个人智能体在预订酒店和航班时代表用户利益，需要以非模糊的方式指定用户的偏好和支付意愿。

谈判和议价的数学与科学基础已被博弈论学家、微观经济学家等相关研究社区研究了几十年。他们的分析通常假设所有参与方都能阐明其效用函数。然而，考虑到LLM类人的认知能力和缺陷，或许行为经济学领域是研究智能体谈判更相关的起点。行为经济学研究的是真实人类在战略互动中的实际行为，这通常与完全理性的行为大不相同。

以行为博弈论的经典例子“最后通牒博弈”为例。在均衡分析中，先动者会提议给对手最小非零金额，而对手会接受。但人类实验显示，提议金额通常集中在总额的30%到50%之间，远低于此的提议则经常被拒绝，仿佛人类对“公平”有某种进化而来的直觉。

已有早期研究表明，LLM在最后通牒博弈中几乎完全复制了人类行为。其他研究也显示LLM在交易游戏、价格谈判等场景中表现出类人行为。最近甚至有研究声称LLM可以进行合谋定价行为，并讨论了其对AI代理的潜在监管影响。

一旦掌握了智能体AI在战略环境中的行为，我们就可以着手塑造这些行为以达到期望的效果。经济学中的机制设计领域就是研究如何构建谈判结构，使其公平且有益。随着智能体议价变得普遍，我们预计关于这些主题的研究将大量涌现。

主观常识的持久挑战

常识，即任何拥有足够世界经验的人类无需明确告知就能知道的事情，一直是AI领域的难题。在智能体AI时代，我们期望代理不仅能理解通用的常识事实，还能理解符合我们个人偏好的“主观常识”——那些只有了解我们背景和观点的人才觉得合理的事情。

纯机器学习方法可能不足以解决这个问题。没有足够的数据从头学习用户的主观常识。例如，每个人关于开关门、是否上锁的行为或“策略”可能非常细微且主观。将这些近乎本能遵循的行为转化为明确的策略非常困难。

将门和锁替换为在线账户、服务、密码和其他身份验证凭据，情况同样复杂。我们可能与家人或朋友共享Netflix等非关键服务的密码，但不会共享银行账户或医疗记录的密码。个人对笔记本电脑文件与云端文件的访问限制或加密的严格程度也可能不同。

用户信任自己或其他智能体访问需要私密和安全资源的条件，将至少与开关门的行为一样复杂。主要的困难不在于缺乏合适的语言或形式化框架来指定此类策略（已有相关提案），而在于帮助人们首先将他们主观的常识表达并转化为这些框架。

结论

智能体AI时代尚处于起步阶段，但其发展速度可能非常快。生成式AI本身从2022年初几乎仅局限于研究圈子，发展到如今堪称本世纪迄今最重要的科学创新之一。我们已经广泛使用着早期的智能体系统，例如最新的编码代理。

与生成式AI拥有数十年科学积淀不同，智能体AI建立在生成式基础之上，但其目标和挑战截然不同，缺乏深厚的科学基础可供系统性地构建。这是一片全新的领域。本文试图预测其中一些更根本的挑战，其中的一半可能是错误的。正如费城百货巨头约翰·沃纳梅克所言：“我有一半的广告费是浪费的，只是我不知道是哪一半。”——对于智能体AI的科学挑战，我们目前也是如此。FINISHED