LLM Agent 简介

什么是LLM Agent

导语

GPT（尤其是GPT-4）等大语言模型（LLM）的推出，让人类认识到了大语言模型强大的文本生成能力。 只是用来做文本生成工具的话，LLM的能力就被严重低估了。Agents的想法的出现，则进一步激发了开发者的想象力。 AI Agents被认为是OpenAI的下一个发力方向，也是通用人工智能（AGI）时代的开始。

本文将介绍LLM Agent相关的概念、组成及应用，帮助Agents初学者更好的理解和应用LLM Agent。

本文部分内容梳理/翻译自参考文献中的文章。

LLM Agent 概念定义

关于LLM Agent， OpenAI 应用人工智能研究负责人Lilian Weng在其Blog中将LLM Agent定义为LLM、记忆（Memory）、任务规划（Planning Skills）以及工具使用（Tool Use） 的集合

其中 LLM 是核心大脑，Memory、Planning Skills 以及 Tool Use 等则是 Agents 系统实现的三个关键组件。

通过LLM和三个关键组件，LLM Agent可以拥有复杂的工作流程，其中模型基本上是与自身对话，而无需人工参与到交互的每个部分。

LLM Agent通过迭代运行并定义一些新的目标/任务，而非传统GPT那般接受单个查询的输入并返回输出

LLM Agent 常见功能

LLM Agent能够基于大语言模型进行对话、完成任务、推理，并可以展示一定程度的自主行为。

根据需要，LLM Agent可以提供丰富的功能，下面是LLM Agent 常见的功能：

• 利用LLM本身的语言能力理解指令、上下文和目标
• 利用Tools（工具套件，如计算器、API、搜索引擎等）来收集信息并采取行动完成分配的任务。
• 展示思维链推理、思维树和其他Prompt Engineering概念，建立逻辑关系以得出结论和解决问题。
• 通过将上下文和目标纳入他们的语言生产技能来为特定目的（电子邮件、报告、营销材料）生成量身定制的文本。
• 根据需要，与用户进行不同级别的交互。
• 将不同的 AI 系统（例如带有图像生成器的大型语言模型）耦合在一起，以实现多方面的功能。

LLM Agent 如何工作

工作流

LLM Agent 的工作流通常是一个迭代运行的过程，下图是babyAGI的工作流：

图片来自https://github.com/yoheinakajima/babyagi

该工作流从输入第一个目标任务开始，经过循环进行下列三个步骤，直至完成目标任务（也可能报错）：

1. 第一步： 向Task List 压入一个Task； 然后把任务发送给Execution Agent， Execution Agent 会基于上下文使用OpenAI的API来完成任务。
2. 第二步：丰富执行的结果，并将其存储到向量数据库中。
3. 第三步：根据目标和之前的任务执行结果，创建新的任务并调整任务列表的优先级。

LLM 与 三个组件

LLM Agent 以 LLM 驱动，并需要三大组件辅助以完成工作

（图片来自： https://lilianweng.github.io/posts/2023-06-23-agent/）

规划（Planning）

• 子目标和分解：LLM Agent 能够将大型任务分解为较小的、可管理的子目标，以便有效的处理复杂任务；
• 反思和细化：LLM Agent 可以对过去的行为进行自我批评和反省，从错误中吸取经验教训，并为接下来的行动进行分析、总结和提炼，这种反思和细化可以帮助 Agents 提高自身的智能和适应性，从而提高最终结果的质量。

记忆 （Memory）

• 短期记忆：所有上下文学习都是依赖模型的短期记忆能力进行的；
• 长期记忆：这种设计使得 AI Agents 能够长期保存和调用无限信息的能力，一般通过外部载体存储和快速检索来实现。

工具使用（Tool use）

• LLM Agent 可以学习如何调用外部 API，以获取模型权重中缺少的额外信息，这些信息通常在预训练后很难更改，包括当前信息、代码执行能力、对专有信息源的访问等。

参考阅读

AI Agents大爆发：软件2.0雏形初现，OpenAI的下一步

What Are Large Language Model (LLM) Agents and Autonomous Agents

LLM Powered Autonomous Agents