大语言模型本质上是无状态的(stateless),每次调用 API 时模型都从空白状态开始。对于简单的单轮问答,这种特性不会构成障碍;但对于需要在多轮交互中保持连贯、跨会话记住用户偏好、从历史错误中学习的智能体而言,缺乏记忆意味着每次交互都从零开始。
记忆能力解决了三个核心问题:
智能体能够理解"修改第二个选项"这类依赖前文的指令,在多轮对话中维持连贯理解。
智能体记住用户的格式偏好、工作习惯和项目约束,无需用户反复说明。
在持续数天或数周的复杂任务中维持目标和进度。2026 年的产业实践表明,记忆已成为区分基础聊天机器人与真正自主智能体的关键特征。
从功能角色划分,智能体记忆可分为以下几类:
短期记忆(Short-term Memory)或工作记忆(Working Memory)是智能体当前任务的工作区,存储当前对话历史、最近工具输出、活跃目标和中间推理步骤。它运行在模型的上下文窗口内,支持单次会话中的实时决策,但在会话结束后即消失。
长期记忆(Long-term Memory)保存跨越多次会话的重要信息,可进一步细分为语义记忆(Semantic Memory)、情景记忆(Episodic Memory)和程序性记忆(Procedural Memory)三种类型。长期记忆通常持久化在外部存储中,在需要时检索并注入上下文。
环境记忆(Contextual Memory)强调对当前外部环境或对话背景的捕获,为智能体提供实时情境感知。
元记忆(Meta Memory)指智能体对自身记忆状态的认知和管理能力,包括判断哪些信息值得记住、何时应该遗忘。
短期记忆对应模型上下文窗口中的工作集,包含系统指令、当前对话轮次和最近的工具调用结果。它的容量受限于模型的上下文窗口大小(从 8K 到 1M token 不等),生命周期仅覆盖单次任务。
在实际运行中,短期记忆的管理遵循优先级排序:系统提示词(程序性记忆)始终保留,检索到的相关记忆按相关度排序,最近的对话历史占据剩余空间,当前用户消息置于末尾。当内容超出窗口限制时,系统通过滑动窗口(丢弃最旧消息)或摘要压缩(将旧对话轮次压缩为摘要)来腾出空间。对于长对话,及时总结、裁剪重复内容并标记失败尝试是维持短期记忆质量的关键实践。
长期记忆通常以两种形态存储:结构化记录用于精确查找命名事实(如用户画像字段),向量嵌入用于按语义相似度发现信息。检索时,系统将当前请求转换为向量表示,在存储中查询最接近的记录,经过排序和裁剪后,将最优的若干条注入上下文窗口。
2026 年的主流系统在此基础上增加了图谱式记忆,使智能体能够沿实体之间的关系进行推理。存储介质的选择涵盖关系型数据库、向量数据库、知识图谱以及混合架构。写入侧通常采用异步管线,将原始对话逐层提炼为可复用的长期画像,避免在热路径上增加延迟。
语义记忆与情景记忆是长期记忆的两个核心子类型,二者在存储内容和时间属性上有本质区别。
语义记忆存储关于世界的事实性知识、用户偏好、领域规则和通用信息。它不与特定时间绑定,回答的是"是什么"的问题。例如,"用户偏好 Python"这一事实一旦验证并存储,就成为指导未来所有代码生成的持久规则。
情景记忆存储过去发生的特定事件,包括发生了什么、采取了什么行动、结果如何。它相当于智能体的日记——一条带时间戳的记录,回答的是"发生了什么"的问题。情景记忆支持基于案例的推理,使智能体能够从历史结果中学习,例如记住三个月前某次技术方案讨论的上下文,或某次 bug 修复尝试失败的具体原因。
程序性记忆(Procedural Memory)编码"如何做"的知识,通常以系统提示词、工具定义、少样本示例或微调后的模型权重形式存在。它不同于事实记忆——程序性记忆关注操作模式、决策协议和优化后的工作流。
在实践中,系统提示词就是智能体最基本的程序性记忆。成熟的工程实践将系统提示词视为代码来管理:版本化、测试化,并根据观察到的失败模式持续改进。程序性记忆的更新通过提示词编辑或模型微调实现,其生命周期持续到工作流发生变化为止——届时需要整体替换而非渐进衰减。
2026 年的生产级智能体普遍采用分层记忆架构,在速度、容量和持久性之间取得平衡。一种典型的四层实现为:
存储未经处理的原始对话记录,作为所有后续提炼的可回溯基础。保留原始记录的意义在于防止摘要漂移——当需要时可以从源头重新总结,而非基于已有摘要的摘要。
将原始对话中的关键事实提取为独立的原子单元,每条记忆聚焦一个可验证的事实或决策。这一层是语义记忆的主要来源。
将多个相关原子记忆归纳为场景级理解,如"用户在数据分析任务中偏好 Python 和 Jupyter 环境"。这一层连接了具体事实与更抽象的用户模型。
形成对用户的长期认知模型,包括稳定偏好、工作领域、协作模式等。L3 是最高抽象层级的记忆,直接影响智能体的全局行为策略。
向量数据库是长期记忆最常见的存储基础设施。当智能体经历新信息时,该信息被转换为高维数学表示(embedding)并存入向量数据库。当需要"回忆"时,系统在向量空间中执行语义搜索,找到与当前查询最相关的历史记忆。
向量检索的核心优势在于"模糊匹配"能力——即使查询用词与存储时的表述不同,系统仍能通过语义相似度找到相关记忆。这使智能体的记忆检索不依赖精确关键词匹配,而是基于含义层面的关联。Mem0、Zep、Letta 等主流记忆框架均以向量数据库作为语义检索的基础层。
向量搜索擅长相似度匹配,但在处理复杂实体关系时存在局限。知识图谱将信息存储为相互连接的实体和概念网络,使智能体能够执行"多跳推理"。
例如,智能体可以沿图谱路径推理:用户 A 就职于公司 B → 公司 B 有禁止使用工具 C 的安全策略 → 因此即使用户未明确要求,智能体也应避免向用户 A 推荐工具 C。这种关系推理能力是纯向量检索无法实现的。
Zep 的 Graphiti 引擎采用时序知识图谱架构,不仅记录实体关系,还追踪事实在何时为真——当用户偏好发生变化时,系统能够区分"当前事实"与"历史事实"。混合向量加图谱的架构在 2026 年被认为是兼顾检索速度与推理深度的最优平衡。
记忆检索是一个多阶段过程,核心步骤包括:将当前请求转换为查询向量、在存储中检索候选记忆、按相关度排序、裁剪至合适长度、注入上下文窗口。检索时需要同时检查范围(scope)、相关性、新鲜度、来源权威性和冲突处理策略。
检索不等同于存储。保存信息和将其放入当前上下文是两个独立操作。当前用户指令和已批准的项目来源通常优先于旧的推断偏好;影响结果的冲突应交由人工确认。腾讯云 Agent 记忆服务的召回侧由 Proxy 在每轮对话中将该 Agent 的 L2/L3 记忆、匹配的 Skill 和 Wiki/CodeGraph 注入 system prompt——记忆不是全量堆叠,而是按 Agent 和任务维度精准装配。
随着记忆不断累积,"上下文腐化"(context rot)成为性能退化的主要诱因——无关或过时的信息堆积会降低检索质量、增加成本并引入噪声。2026 年的多项研究一致表明,智能体"记太多"反而更糟。智能遗忘的实现方式包括三种机制:
使用强化学习或评分机制识别低价值记忆并予以清除,同时保留高影响经验。Xiao 等人(FSE 2026)的实验表明,对无用、冗余、过期的轨迹信息进行实时瘦身,可将输入 token 降低 39.9%~59.7%,总成本降低 21.1%~35.9%,而性能不降。
为不同类型的记忆设置不同的有效期。语义事实会过时(职位变更、公司名称变更),情景记忆不会过时但会变得不相关,程序性规则在工作流变更前持续有效。为记忆添加过期日期或审查触发器,是防止陈旧信息误导决策的关键。
替代(superseding)指写入新事实时显式废弃旧事实,而非让两者并存于检索索引中——两条矛盾记忆的检索结果等同于掷硬币。重新验证(re-verifying)指在执行高风险操作前,重新核对关键事实与源系统是否一致,而非信任数周前的记录。
智能体记忆与检索增强生成(RAG)共享相同的检索机制,但应用场景不同。RAG 从外部文档语料库中检索信息,目的是将回答锚定在源材料中——它是一个在静态或缓慢变化的语料上执行的搜索问题。
智能体记忆则从智能体自身积累的事实和过去事件中检索,回答的是"这个智能体应该跨轮次、跨会话、跨用户携带什么信息,以及携带多久"的问题。记忆系统需要回答晋升(事实是否从短期升级为长期)、纠正(用户指出错误后如何处理)、过期(偏好何时失效)和隔离(用户 A 的记忆是否泄漏到用户 B 的会话)等问题,这些是 RAG 系统不涉及的。
实践中,如果团队已经运行 RAG 管线,则已具备构建长期记忆所需的大部分组件——两者可以共享向量存储和检索基础设施。
这是智能体架构中最常见的误解之一。答案明确是否定的,原因有四个层面:
上下文窗口是临时缓冲区。无论窗口能容纳 128K 还是 1M token,推理调用结束后缓冲区即被清空。跨会话的记忆需要独立的持久化存储,这是上下文窗口在原理上无法提供的。
Transformer 的注意力机制随序列长度近似二次增长。每轮对话都重新输入完整历史,成本随对话长度线性攀升。Mem0 的研究数据显示,全上下文方案在相同基准上每查询消耗 25,000+ token,而记忆算法控制在 7,000 token 以内。
斯坦福 NLP 的"Lost in the Middle"研究表明,模型对长输入中间部分的信息注意力显著下降。关键事实若埋在 60,000 token 之前,模型遗漏的概率相当可观。
更大的上下文窗口只是提供了更多原始素材,它不会决定哪些信息应该持久化、哪些应该更新、哪些应该删除。记忆系统的核心价值恰恰在于这种选择性——提取重要信息、丢弃噪声、按相关度排序。
Anthropic 的发布结果显示,上下文编辑(自动清理过时的工具调用和结果)在复杂多步任务上带来 29% 的改进;叠加外部记忆工具后,综合提升达到 39%,同时在百轮搜索评估中将 token 消耗削减 84%。
设计记忆架构的第一步不是选择向量数据库,而是用自然语言明确以下策略:哪些关于用户或任务的事实需要跨会话存活、它们应该存活多久、当新旧事实冲突时如何处理、谁有权访问哪些记忆。
在此基础上,2026 年企业级系统普遍收敛于四阶段流程:向量搜索识别候选文档和实体 → 图谱遍历沿关系拉取连接上下文 → 记忆存储注入会话和用户特定状态 → 组合后的上下文传递给模型推理。
记忆层本身需要显式的生命周期规则:从工作记忆到长期存储的晋升路径、实际覆写而非追加的纠正机制、与变化上下文绑定的偏好设置 TTL 或审查触发器、用户之间和会话之间的硬隔离边界。此外,记忆写入和读取应独立于模型调用进行插桩——如果无法回答"这次响应读取了哪些记忆条目、之后写入了哪些",则无法调试智能体为何自相矛盾,也无法审计其保留的个人数据。
多智能体系统的核心挑战在于:不同专业化的智能体如何协调工作而无需在每轮交互中重新解释各自的工作成果。共享记忆池是解决这一问题的关键机制。
在典型实现中,研究智能体发现新的市场趋势后,将该发现写入共享语义存储;内容智能体读取该更新并调整草稿;策略智能体据此更新季度预测。因为它们共享单一事实来源,这些智能体无需"上下文倾倒"即可协作。
腾讯云 Agent 记忆服务 2.0 的 Team Memory 将这一理念产品化:历史 Agent 对话整理为 Chat Memory,项目文档转换为 Wiki,代码仓库自动生成 CodeGraph,成功完成的排障或代码评审沉淀为 Skill。四类记忆资产在团队内共享,并根据 Agent 角色按需装配——修 Bug 的 Agent 优先加载 CodeGraph 和排障经验,做需求分析的 Agent 加载 Wiki 和历史讨论。记忆资产与具体模型和 Agent 框架相互独立,更换底层模型或工具后已积累的知识仍可继续使用。
在个人助理场景中,记忆的核心价值是将 AI 从"工具"转变为"了解你的伙伴"。具体提升体现在三个方面:
智能体记住用户偏好的沟通风格、常用工作流和项目约束,用户无需在每次新会话中重复自我介绍。这种"礼宾服务"式体验是建立用户信任的基础。
智能体记住过去哪些方案有效、哪些失败了,避免重复犯错。例如,编码助理记住用户偏好的代码风格和常用库,在后续会话中直接遵循。
跨天或跨周的长任务中,智能体维持目标和进度,用户可以暂停后从断点恢复,而非从头开始。
团队协作场景对记忆系统提出了更高要求:记忆不仅属于个人,还需要在团队成员和多个 Agent 之间安全共享、按角色隔离、可追溯治理。
典型应用包括:软件开发团队将代码仓库、项目文档和历史 Agent 会话统一沉淀为团队记忆资产,新成员和新 Agent 可直接从现有项目经验开始工作;客户成功团队让智能体记住客户的完整交互历史、偏好和过往解决方案,实现无缝的上下文感知服务;研究团队让智能体在长期项目中积累知识库,追踪演进的洞察。
腾讯云 Agent 记忆服务 的 Memory Hub 控制台支持创建 Team、Agent 和 Task,将散在各处的记忆集中管理,每条记忆都有明确的 Owner 和版本记录,共享时由 Owner 主动发起并可按用户、角色和 Agent 分别设置权限。
记忆系统天然涉及敏感数据的持久化存储,隐私与合规是架构设计中的核心约束而非事后补丁。关键设计原则包括:
不保存无明确理由保留的敏感数据(支付卡号、密码、政府证件号、健康信息),最安全的做法是脱敏或从不写入这些字段。
确保智能体只"记住"当前用户有权查看的信息,防止跨部门或跨租户的数据泄漏。
每条情景记忆和语义记录在静态存储和传输过程中都必须加密,并附带严格的审计日志。
记忆系统必须支持保留期限和删除操作覆盖所有数据层级,包括结构化表、向量索引条目和备份快照。GDPR 等法规下的删除权要求完全擦除,部分擦除不满足合规要求。
2026 年 8 月全面生效的欧盟 AI 法案透明度要求进一步规定:用户有权知道 AI 系统正在维护关于他们的持久信息,在某些情况下有权要求删除。
2026 年智能体记忆领域已形成多个成熟的开源和商业方案:
腾讯云数据库团队开源的智能体记忆系统,2026 年 5 月开源后 90 天内 GitHub Star 突破 20,000,多次登顶 GitHub Trending 日榜第一。提供长期记忆和短期记忆能力,支持主流 Agent 框架。2.0 版本引入 Team Memory,将记忆从个人扩展到团队协作场景,统一管理 Chat Memory、Wiki、CodeGraph 和 Skill 四类资产。在公开评测 PersonaMem 中,启用后总回答准确率从 48% 提升至 76%。开发者可通过 腾讯云 Agent 记忆服务 快速接入上述能力。
向量优先的记忆层,以框架无关性和最大社区规模著称(约 48K GitHub Stars)。支持用户级、Agent 级和会话级多范围记忆 API,自报告 LongMemEval 得分 94.4%、LoCoMo 得分 92.5%。适合快速实现跨会话个性化的场景。
基于时序知识图谱的记忆系统,核心优势在于追踪事实随时间变化的轨迹。Graphiti 引擎开源(Apache 2.0),适合事实频繁变更、需要审计溯源的合规场景。LongMemEval 报告得分 71.2%(GPT-4o judge)。
受操作系统启发的有状态 Agent 运行时,将记忆管理作为一等公民。采用三层架构:Core Memory(始终在上下文窗口中)、Recall Memory(可搜索的对话历史)、Archival Memory(长期存储)。Agent 主动决定保留什么、归档什么,适合长运行自主智能体。
2026 年智能体记忆领域已形成三个主要评估基准:
包含 1,540 个问题,专为多会话对话记忆评估设计,测试单跳、多跳、开放域和时序召回。是当前最广泛引用的记忆基准,生产级系统的得分普遍达到低至中 90% 区间。
包含 500 个问题,覆盖三个维度:召回(能否从过去对话中检索特定事实)、时序推理(是否理解事件发生的时间和顺序)、知识更新(当事实变化时是否追踪最新版本)。相比 LoCoMo 增加了知识更新和拒答(正确拒绝回答从未发生的事件)作为显式评估类别。
最新的高难度基准,在 128K、500K、1M 和 10M token 规模上测试记忆能力,涵盖 2,000 个问题和十项能力维度。公开得分上限约 64 分,表明真正的长程记忆仍是未解决的难题——即使优秀的记忆系统也会随历史增长而退化。
此外,Microsoft 发布的 STATE-Bench 从任务完成角度评估记忆——不仅测试检索准确性,还测试记忆是否实际改善了任务完成质量,涵盖客户支持、旅行和购物三个领域的 450 个任务。评估记忆系统时应同时阅读准确率与 token 成本、单会话与多会话得分,单一数字不足以反映全貌。