Agent 为什么会“忘事”-Agent的记忆管理
原创 小编 2026-09-01 17:52 北京
Agent 为什么会“忘事”:从上下文拼接到可治理的记忆系统
很多团队第一次把 Agent 接入真实业务时,都会遇到一个看似简单、实际很棘手的问题:它明明在前几轮对话里看过这些信息,为什么后面还是会问同样的问题,或者根据已经过期的内容做决策?
常见的第一反应是扩大上下文窗口、把更多历史消息塞回 Prompt,甚至把整个会话原样回放。但这往往只能延缓问题,不能真正解决问题。
Agent 的“记忆”不是模型天然具备的能力,而是应用层围绕上下文构建的一套工程系统。它需要决定哪些信息值得留下、哪些信息应该更新、什么时候召回,以及如何避免无关或错误记忆污染当前任务。
本文从运行机制出发,梳理 Agent 记忆系统的核心概念、常见实现方式和落地路径,重点讨论一个生产系统真正需要回答的问题:
当前这一轮请求,究竟应该把哪些历史信息带给模型?
一、先区分两个容易混淆的概念
1. 上下文是“当前可见信息”
对模型来说,一次调用就是一次独立推理。模型能够利用什么,取决于本次请求中实际传入的内容,包括:
系统指令
用户当前输入
最近几轮消息
工具调用结果
应用主动检索并注入的历史信息
任务状态或结构化变量
这些内容共同构成当前上下文窗口。它们像工作台上的材料,模型只能使用已经摆到工作台上的东西。
2. 记忆是“跨时间保存并可再次使用的信息”
记忆则发生在模型之外。应用需要把信息提取出来,存放到数据库、文档库、向量索引或其他存储中,等未来某次请求需要时再召回。
所以,“模型记住了用户喜欢 TypeScript”并不准确。更准确的描述是:
应用从历史交互中识别出这条偏好;
将偏好写入外部记忆存储;
新请求到来时检索到它;
把它放入当前 Prompt;
模型据此生成回答。
这个过程里,模型负责理解和推理,应用负责保存、筛选和编排。
二、为什么把全部历史放回 Prompt 仍然不够
最朴素的方案是每一轮都携带完整聊天记录。它确实能让 Agent 在短时间内表现得像“有记忆”,但很快会遇到四类问题。
2.1 上下文窗口始终有限
窗口再大也不是无限的。随着会话变长,系统最终仍然要做截断、压缩或摘要。更大的窗口只是把决策点推迟,并没有替应用做出信息取舍。
2.2 成本和延迟会随历史增长
如果每轮都重复发送大量历史,输入 Token、首字延迟和整体费用都会上升。长上下文还会增加调试难度:当模型答错时,很难判断是指令、历史事实、工具结果,还是某一段旧消息造成了干扰。
2.3 信息越多,不一定越容易找到重点
模型可能对上下文的不同位置表现出不同注意力。关键事实被大量普通对话包围后,即使它仍然存在,模型也未必能稳定利用它。把信息放进窗口,不等于让信息变得可用。
2.4 历史事实会发生变化
“项目使用 React”可能在下个月变成“项目已经迁移到 Vue”。如果系统只是不断追加历史,而没有更新和失效机制,检索出来的内容就会同时包含新旧结论,最终把冲突交给模型自行判断。
因此,记忆系统的目标不是“尽可能多地保存”,而是:
为当前任务生成一份足够准确、足够精简、来源可追溯的上下文。
三、建立一套记忆分层模型
把所有信息都称为“记忆”会导致存储和检索策略混乱。更实用的做法,是按照信息的生命周期和用途进行分层。
3.1 工作记忆:当前任务正在发生什么
工作记忆通常位于当前上下文中,内容包括:
当前用户问题
正在执行的步骤
已经完成的工具调用
当前任务的中间结果
还没有解决的错误
最近几轮对话
它的优点是访问快、语义完整、无需检索;缺点是消耗窗口空间,且通常不能自然跨会话延续。
适合放入工作记忆的信息,应该与当前任务强相关。例如在排查部署失败时,当前分支、最近一次构建日志和已经尝试过的修复,都比半年前的一段闲聊更重要。
3.2 情节记忆:过去具体发生过什么
情节记忆保存事件和过程,强调“当时发生了什么”。例如:
某次发布因配置错误失败,最后回滚;
用户曾经要求保留某个兼容性方案;
某个需求经过讨论后放弃了一个实现路径。
这类信息通常需要保留原始片段、时间、来源和关联对象,便于日后追溯。它适合使用文档存储加向量检索,也可以结合时间过滤和关键词过滤。
3.3 语义记忆:当前已知的事实是什么
语义记忆是从多个事件中提炼出的稳定事实,例如:
项目:订单服务
当前数据库:PostgreSQL
前端框架:Vue 3
部署环境:Kubernetes这类信息回答的是“现在是什么”,通常比原始对话更适合精确查询。由于事实可能更新,存储时最好同时记录:
事实键和值
来源
更新时间
生效范围
置信度
是否已过期
3.4 过程记忆:应该如何完成一类任务
过程记忆描述做事方法和约束,例如:
发布前必须执行回归测试;
修改数据库前要先生成迁移预览;
处理生产数据时必须经过审批;
某类代码要遵循团队约定的目录结构。
过程记忆通常不应该和普通聊天记录混在一起。它更接近版本化的 Prompt、Skill、策略配置或工具使用规范,需要有明确的版本、权限和回滚机制。
3.5 一个简单的分类表
类型 | 主要回答 | 典型内容 | 更适合的载体 | 关键治理点 |
|---|---|---|---|---|
工作记忆 | 现在正在做什么 | 当前步骤、工具结果、最近消息 | 上下文、会话状态 | Token 预算、截断、摘要 |
情节记忆 | 过去发生过什么 | 某次故障、一次决策、历史过程 | 文档库、向量索引 | 来源、时间、切块、保留期限 |
语义记忆 | 现在是什么 | 技术栈、偏好、当前版本 | KV、关系库、图数据库 | 去重、冲突更新、有效期 |
过程记忆 | 应该怎么做 | 流程、规范、工具策略 | 版本库、配置中心、Skill | 版本、权限、审批、回滚 |
分层的意义在于:不同类型的记忆,应该使用不同的写入、查询和更新规则。
四、一轮请求中的记忆运行时
记忆系统并不是简单地“查一下数据库”。一轮请求通常包含以下流程:
flowchart LR
A["接收请求"] --> B["识别任务与作用域"]
B --> C["召回候选记忆"]
C --> D["过滤、重排、去重"]
D --> E["摘要与 Token 预算控制"]
E --> F["组装当前上下文"]
F --> G["调用模型与工具"]
G --> H["异步抽取并更新记忆"]4.1 先确定作用域,再做检索
记忆至少要区分用户、租户、项目和会话。否则,某个项目的配置可能被错误地召回到另一个项目,甚至出现跨用户信息泄漏。
建议在记忆记录中显式保存类似以下元数据:
{
"user_id": "u-123",
"tenant_id": "tenant-a",
"project_id": "project-x",
"session_id": "session-456",
"memory_type": "semantic",
"source": "conversation-789",
"updated_at": "2026-08-20T10:30:00Z"
}检索时,作用域过滤应当是硬约束,而不是交给模型判断的软提示。
4.2 候选记忆不等于最终上下文
向量检索返回的是候选集合。应用还需要根据当前任务进行:
相关性重排;
时间和有效期过滤;
重复内容合并;
新旧事实冲突处理;
敏感信息过滤;
长度压缩;
Token 预算分配。
最终进入 Prompt 的内容应该少而准,而不是把检索结果原样倾倒给模型。
4.3 回写最好异步完成
在回答结束后,可以异步完成记忆抽取和更新,避免用户等待。回写过程通常包括:
判断新信息是否值得保存;
识别它属于哪种记忆;
提取结构化字段或保留原始片段;
与已有记录去重;
检查冲突并更新状态;
保存来源和时间信息。
如果每条对话都写入长期记忆,系统很快会被低价值内容淹没。记忆写入本身也需要门槛。
五、常见实现方式与适用边界
5.1 截断和滑动窗口
只保留最近若干轮消息,超出范围的历史直接丢弃。
优点:实现简单,成本低,适合局部性很强的短对话。
问题:早期决策和关键约束会直接消失,无法支持跨会话记忆。
它可以作为基础兜底,但不适合作为复杂 Agent 的完整记忆方案。
5.2 滚动摘要
当历史超过阈值时,让模型把较早对话压缩成摘要,并保留最近几轮原文。
一个实用的上下文组合通常是:
系统约束
+ 当前任务状态
+ 长期记忆中与任务相关的事实
+ 历史摘要
+ 最近若干轮原文
+ 当前用户输入摘要能延长有效对话周期,但它并非无损压缩。数字、条件、例外和否定关系尤其容易在摘要中丢失。因此,重要决策不应只存在于自然语言摘要里,最好同步写入结构化状态。
5.3 RAG 式记忆
把历史片段切块、向量化并存入检索系统,之后根据当前问题召回相关内容。
它擅长回答“过去有没有发生过类似事情”,优势是保留原始证据,方便追溯;但它也容易召回过期信息、重复信息和相互矛盾的信息。
RAG 记忆要想稳定,至少需要配合:
元数据过滤;
时间衰减或有效期;
混合检索;
结果重排;
记忆来源展示;
过期和删除机制。
5.4 事实抽取
不保存全部原始对话,而是把其中有长期价值的信息提炼成结构化事实。
例如:
{
"key": "user.preferred_language",
"value": "TypeScript",
"scope": "user",
"source": "conversation-789",
"valid_from": "2026-08-20T10:30:00Z",
"status": "active"
}事实抽取适合偏好、技术栈、项目配置等状态型信息。它的难点在于抽取错误和覆盖错误:模型可能把一次临时尝试误判成长期偏好,也可能用新错误值覆盖旧的正确值。因此必须保留来源,并在必要时要求确认或设置置信度。
5.5 知识图谱与时序记忆
当业务中有大量实体、关系和状态变化时,图结构比单纯的文本相似度更有表达力。例如:
用户 -> 负责 -> 订单服务
订单服务 -> 部署于 -> 集群 A
集群 A -> 当前版本 -> v2如果关系还会随时间变化,就需要额外记录生效时间和失效时间。
图谱适合 CRM、项目协作、企业知识和长周期个人助手等场景,但建设成本、数据建模成本和维护复杂度都更高。只有当关系查询确实成为瓶颈时,才值得引入。
5.6 主动调页式记忆
另一种思路是让 Agent 通过工具主动管理自己的记忆,例如提供:
写入记忆;
查询记忆;
更新事实;
删除记忆;
获取历史片段。
这种方式的自主性更高,但也带来新的控制问题:Agent 可能过度写入、错误删除,或者在不该检索时调用记忆工具。生产系统需要在工具层增加权限、范围和审计约束,不能完全依赖模型自律。
六、RAG 和事实抽取应该如何组合
RAG 与事实抽取经常被拿来比较,但它们解决的是不同问题。
RAG 更适合保留证据
RAG 保存“发生过什么”,适合:
回顾历史决策;
查找故障处理过程;
找到某条信息的原始来源;
处理开放式、语义不确定的问题。
事实抽取更适合维护状态
事实抽取保存“目前是什么”,适合:
用户偏好;
当前技术栈;
当前项目版本;
账户或业务状态;
具有明确键值关系的信息。
比较稳妥的组合是:
用结构化事实支持快速决策,用 RAG 提供原始证据和过程追溯。
例如,模型需要回答“项目现在使用什么前端框架”,可以先读取结构化事实 frontend_framework = Vue;如果用户追问“什么时候从 React 切换过来的”,再通过 RAG 查找迁移过程和相关决策记录。
每条结构化事实最好都保留来源指针。这样既能快速使用,又不会失去可解释性。
七、如何选择实现工具
工具选择不应从“哪个产品功能最多”开始,而应从业务最主要的记忆类型开始。
可以用下面的判断方式:
主要需求 | 优先考虑的方向 |
|---|---|
个人偏好、跨会话事实、快速接入 | 结构化事实记忆层 |
历史事件、原始证据、时间线 | 文档库与混合检索 |
多实体关系、状态变化、复杂关联查询 | 时序知识图谱 |
Agent 主动管理上下文和记忆工具 | 分层记忆运行时 |
已经使用某个 Agent 编排框架 | 优先采用其生态内的状态和记忆组件 |
具体工具只是实现选择,不能替代记忆治理。无论使用什么组件,都需要自己回答:
记忆的作用域是什么?
什么内容允许写入?
过期信息如何处理?
冲突由谁解决?
用户如何查看和删除?
如何评估召回是否有用?
如果这些问题没有答案,换一个记忆框架通常也只是把问题换了一个位置。
八、推荐一条渐进式落地路径
记忆系统适合逐步建设,不适合一开始就做成“万能平台”。可以按以下三个阶段推进。
阶段一:先让会话内任务稳定
目标是解决同一轮长对话中的任务状态丢失。
建议组合:
保留最近几轮原文;
增加滚动摘要;
单独维护结构化任务状态;
设置明确的 Token 预算;
记录已完成步骤和待处理事项。
这一阶段不需要复杂的向量数据库,先让 Agent 能稳定回答“我们已经做了什么、现在进行到哪一步”。
阶段二:补充跨会话事实
当用户开始期待个性化体验时,再加入长期语义记忆,例如:
用户偏好;
项目技术栈;
团队约定;
长期有效的业务约束。
此时要同步加入作用域、来源、更新时间、冲突更新和删除能力。长期记忆一旦影响真实操作,就不能只当作一个“黑盒召回接口”。
阶段三:在确有需要时引入关系和主动调页
当系统出现以下特征时,再考虑图谱或主动记忆工具:
同一批实体之间存在大量关系;
关系会随时间持续变化;
查询需要跨多个实体和事件推理;
固定的自动召回规则已无法满足复杂任务。
复杂技术应该由真实问题驱动,而不是由架构图驱动。
九、记忆写入和更新的四条规则
规则一:不是所有信息都值得记
可以在写入前询问:
这条信息在未来是否可能改变 Agent 的回答或行动?
如果答案是否定的,就不必写入长期记忆。一次性的寒暄、临时猜测和低价值重复内容通常不应该持久化。
规则二:每条记忆都要有边界
同一句话在用户、项目和会话三个层级上的含义可能不同。例如“我们使用 PostgreSQL”可能只是当前项目的约束,并不代表用户所有项目都使用 PostgreSQL。
作用域应该成为数据模型的一部分,而不是写在备注里的说明。
规则三:更新比追加更重要
长期记忆如果只有新增没有更新,最终必然变脏。至少要支持:
新增;
合并;
覆盖;
标记过期;
软删除;
冲突保留与人工确认。
规则四:记忆必须可以解释
当 Agent 根据某条长期记忆做出重要决定时,系统应该能够回答:
这条记忆来自哪里?
什么时候写入?
为什么认为它仍然有效?
是否存在相反证据?
用户能否修改或删除?
可解释性不是额外装饰,而是排查错误和建立用户信任的基础。
十、最常见的工程误区
误区一:上下文窗口越大,记忆问题就越小
大窗口能减少短期截断,但不能替代跨会话存储、状态更新和相关性筛选。把多年历史全部塞进 Prompt,既昂贵,也可能降低模型对重点的把握。
误区二:所有记忆都放进同一个向量库
原始事件、当前事实和操作规范的查询方式不同。把它们混在一起,会让相似度检索承担它不擅长的去重、冲突判断和权限治理。
误区三:只做记忆写入,不做记忆清理
没有过期、删除和冲突处理的记忆库,规模越大,噪声越多。记忆系统必须同时设计“记住什么”和“忘掉什么”。
误区四:只看召回数量,不看召回质量
召回十条信息不代表系统更聪明。真正重要的是:召回内容是否与当前任务相关,是否包含过期事实,是否改变了最终决策。
误区五:让模型独自决定权限和范围
模型可以参与判断,但用户、租户、项目等隔离必须由应用层或数据库层强制执行。敏感记忆的读取和写入还应有审计记录。
十一、怎样评估一个记忆系统是否有效
记忆功能上线后,不能只用“看起来它记住了”作为验收标准。至少应该从四个方面评估。
11.1 召回质量
可以构造带标准答案的测试集,检查:
关键记忆是否被召回;
无关记忆是否被排除;
过期事实是否被过滤;
来源是否能够追溯。
11.2 任务结果
最终指标仍然应该回到业务任务:
任务完成率是否提升;
重复询问是否减少;
工具调用是否更准确;
错误决策是否减少。
11.3 成本和延迟
记忆系统不能只提升效果而无限增加成本。需要同时观察:
平均输入 Token;
记忆检索耗时;
首 Token 延迟;
回写任务的额外模型调用;
存储和索引成本。
11.4 安全与可控性
还需要验证:
不同用户和项目之间是否隔离;
删除操作是否真正生效;
敏感信息是否会被不必要地召回;
记忆更新是否可审计、可回滚。
将记忆召回、过滤结果、最终注入内容和模型输出放进同一条 Trace,才能真正定位“为什么它会记错”。
结语:好的 Agent 不只是记得多,而是记得对
Agent 的记忆管理,本质上是一个信息治理问题,也是 Harness 设计的重要组成部分。
成熟的记忆系统通常具备三种能力:
该记的能留下:关键事实被提炼并保存,重要决策有来源;
该忘的能清理:过期、错误和冲突信息不会无限积累;
该用的能召回:当前任务只获得真正相关的最小有效上下文。
因此,当用户再次说“这个 Agent 怎么又忘了”,排查顺序不应该只是继续扩大 Prompt,而应该依次检查:
当前会话状态是否维护完整;
重要事实是否成功抽取;
旧事实是否正确失效;
检索是否命中正确范围;
最终上下文是否被摘要、排序或 Token 预算错误处理。
模型能力决定 Agent 能做什么,记忆架构决定 Agent 能否持续、稳定、可控地把事情做对。真正值得建设的,不是一个装满历史记录的“记忆仓库”,而是一套能够判断、更新、解释和约束信息流动的运行系统。
CadenzaOS:https://github.com/SuperTapir/CadenzaOS
PCB Atelier:https://github.com/SuperTapir/pcb-atelier
tapir-skills:https://github.com/SuperTapir/tapir-skills
PCB_lightgraph:https://github.com/tomatorigid/PCB_lightgraph
我用AI编程复刻了老罗的TNT,还顺手做了个万能遥控器……:https://www.bilibili.com/video/BV1qMKg6uEJr
送朋友一张PCB做的贺卡!:https://www.bilibili.com/video/BV11MjE6qEXb
🎉🕯🎂🕯🎉(我的第一块 PCB Art 作品图案取自这位老师的视频):https://www.bilibili.com/video/BV1ihNx61Ewq
从零开始的二次元电路板艺术画设计教程:https://www.bilibili.com/video/BV1CQjz6ZELZ
-END -
如果您关注前端+AI 相关领域可以扫码进群交流
添加小编微信进群😊
关于奇舞团
奇舞团是 360 集团最大的大前端团队,非常重视人才培养,有工程师、讲师、翻译官、业务接口人、团队 Leader 等多种发展方向供员工选择,并辅以提供相应的技术力、专业力、通用力、领导力等培训课程。奇舞团以开放和求贤的心态欢迎各种优秀人才关注和加入奇舞团。