LangChain是一个用于开发由语言模型驱动的应用程序的框架。我们相信,最强大和差异化的应用程序不仅会调用语言模型,而且还会:
数据感知:将语言模型连接到其他数据源
Agentic:允许语言模型与其环境交互
LangChain 框架就是围绕这些原则设计的。
这是有关 LangChain 的纯概念指南,LangChain 框架提供了两个主要的价值支柱:
组件:LangChain 为使用语言模型所需的组件提供模块化抽象。LangChain 也有所有这些抽象的实现集合。这些组件旨在易于使用,无论您是否使用 LangChain 框架的其余部分。
Use-Case Specific Chains:链可以被认为是以特定方式组装这些组件,以便最好地完成特定用例。这些旨在成为一个更高级别的界面,人们可以通过它轻松地开始使用特定的用例。这些链条还设计为可定制。
开始
如何开始使用 LangChain 创建语言模型应用程序。
快速入门指南
概念和术语。
概念和术语
思维链 Chain of Thought (CoT)
是一种提示技术,用于鼓励模型生成一系列中间推理步骤。引发这种行为的一种不太正式的方法是在提示中包含“让我们逐步思考”。
思维链论文
循序渐进的论文
行动计划生成Action Plan Generation
是一种提示技术,它使用语言模型来生成要采取的操作。然后可以将这些动作的结果反馈到语言模型中以生成后续动作。
WebGPT paper
saycan paper
ReAct 反应行动
是一种将思维链提示与行动计划生成相结合的提示技术。这会诱导 to 模型思考要采取什么行动,然后采取行动。
langchain示例
自问Self-ask
是一种建立在思维链提示之上的提示方法。在这种方法中,模型明确地询问自己后续问题,然后由外部搜索引擎回答。
示例
提示联动Prompt Chaining
正在组合多个 LLM 调用,一步的输出是下一步的输入。
PromptChainer 论文
语言模型级联
ICE 入门书
苏格拉底模型
模因代理Memetic Proxy
鼓励 LLM 以某种方式回应,在模型知道的上下文中构建讨论,这将导致那种类型的回应。例如,作为学生和老师之间的对话。
纸
自我一致性Self Consistency
是一种解码策略,它对一组不同的推理路径进行采样,然后选择最一致的答案。与思想链提示相结合时最有效。
纸
开始Inception
也称为. 通过在提示中包含模型响应的开始,鼓励模型以某种方式思考。
例子
记忆提示MemPrompt
维护错误和用户反馈的记忆,并使用它们来防止重复错误。
论文
由社区专家创建并在 YouTube 上展示的教程。
教程
模块
这些模块是核心抽象,我们将其视为任何 LLM 支持的应用程序的构建块。
LangChain 为每个模块提供了标准的、可扩展的接口。LanghChain 还提供外部集成,甚至是现成使用的端到端实施。
每个模块的文档包含快速入门示例、操作指南、参考文档和概念指南。
这些模块是(从最少到最复杂):
模型:支持的模型类型和集成。
提示:提示管理、优化和序列化。
内存:内存是指链/代理调用之间持续存在的状态。
索引:当与特定于应用程序的数据结合时,语言模型变得更加强大——该模块包含用于加载、查询和更新外部数据的接口和集成。
链:链是结构化的调用序列(对 LLM 或不同的实用程序)。
代理:代理是一个链,其中 LLM 在给定高级指令和一组工具的情况下,反复决定一个动作,执行该动作并观察结果,直到高级指令完成。
回调:回调让您可以记录和流式传输任何链的中间步骤,从而便于观察、调试和评估应用程序的内部结构。
用例
常见 LangChain 用例的最佳实践和内置实现:
自治代理:自治代理是长期运行的代理,它们采取许多步骤来尝试实现目标。示例包括 AutoGPT 和 BabyAGI。
Agent Simulations:将 agents 放入沙盒中,观察它们如何相互作用以及对事件的反应是评估其长期推理和计划能力的有效方法。
个人助理:LangChain 的主要用例之一。个人助理需要采取行动、记住交互并了解您的数据。
问答:另一个常见的 LangChain 用例。回答针对特定文件的问题,仅利用这些文件中的信息来构建答案。
聊天机器人:语言模型喜欢聊天,这使它们成为一种非常自然的用途。
查询表格数据:如果您想使用语言模型查询结构化数据(CSV、SQL、数据帧等),推荐阅读。
代码理解:如果你想使用语言模型来分析代码,推荐阅读。
与 API 交互:使语言模型能够与 API 交互非常强大。它使他们能够访问最新信息并允许他们采取行动。
提取:从文本中提取结构化信息。
总结:压缩较长的文档。一种数据增强生成。
评估:生成模型很难用传统指标进行评估。一种有前途的方法是使用语言模型本身来进行评估。
参考文件
关于 LangChain 的所有方法、类、安装方法和集成设置的完整文档。
参考文档略
领取专属 10元无门槛券
私享最新 技术干货