Skip to content

Agent 长期记忆系统 (Agent Memory Systems)

解析 MemGPT 仿 OS 分页记忆、四类认知记忆、三维检索评分公式与离线反思巩固机制。

当前:讲解模式 — 侧重直觉建立、生活类比与分步拆解快捷键 M 切换
概念定义 · 什么是 Agent 长期记忆系统?

大模型的上下文窗口就像电脑的“内存(RAM)”——容量有限、关掉对话就清零。如果你希望一个智能体跨天、跨周记住你的偏好、项目历史和过去踩过的坑,就需要一套 Agent 长期记忆系统。

它模仿操作系统与人类认知(如 MemGPT / Letta),把记忆分层为工作记忆、情景经历、语义知识与技能经验,按“时间近不近、内容重不重要、和当前问题相不相关”动态存取,并在空闲时自动整理去重、解决新旧事实冲突。

01 为什么要发明它:治好大模型的“顺行性遗忘症” ​

如果你天天和普通大模型搭档干活,一定经历过这种抓狂瞬间:昨天费劲跟它交代了十遍“我们团队用 TypeScript、严禁 any、偏好函数式写法”,结果今天一开新窗口,它又笑眯眯地递上来一段满屏 any 的代码。因为原生大语言模型本身是无状态的——关掉会话窗口,一切清零,就像电影《记忆碎片》里的主角。

有人会问,那直接接一个 RAG 检索增强 不就行了吗?普通 RAG 面向的是静态百科图书馆——书架上的资料写定后极少改动。可一个长期陪伴你的 智能体 面对的是活生生、天天演化的现实世界:你去年主写 Python,今年项目全面切到了 Rust;昨天踩过一个数据库连接池耗尽的坑,明天绝不能再踩第二遍。如果只靠死板的向量相似度搜索,新旧记忆就会当场打架,陈年闲聊也会把最新规范彻底淹没。

类比 · 电脑的内存与硬盘(MemGPT 仿 OS 虚拟内存)

UC Berkeley 提出的 MemGPT ↗ 给出了一个拍案叫绝的计算机类比:

把大模型的上下文窗口看成电脑珍贵但容量有限的 内存(RAM),把外部数据库看成海量的 硬盘(Disk)。操作系统从来不会因为内存只有 16G 就打不开 100G 的大型软件——它靠虚拟内存分页,把眼下要用的页面调进内存,把暂时闲置的页面写回硬盘。Agent 长期记忆系统,就是让模型学会自己充当“内存管理员”,在需要时调用工具自主换页,制造出“永不遗忘”的体验。

核心设问

在上下文窗口永远有限的前提下,如何让 Agent 像人类大脑一样记住关键偏好、避开历史深坑、在新旧事实冲突时自动“翻篇”,还不被几十万条旧对话拖慢响应速度?

02 核心直觉:四个记忆抽屉 + 冲突翻篇 + 睡觉时整理脑子 ​

借鉴认知科学(如 CoALA 框架 ↗),现代 Agent 记忆不再是一锅乱炖的聊天记录堆,而是清晰地拆成四个各司其职的抽屉:

1. 工作记忆(Working Memory):眼前的书桌 ​

也就是当前上下文窗口里的活跃区域,由 上下文工程 精细看管,放着当下正在推进的目标、最近几轮推理与工具返回值。空间寸土寸金,用完就要及时归档。

2. 情景记忆(Episodic Memory):按日记录的工作日志 ​

忠实记下 Agent 亲历过的完整事件与踩坑现场——比如“上周三发布 v2.1 时,因为忘记给订单表加复合索引导致接口超时回滚”。遇到类似事故时翻开这本日记,就能瞬间避雷。

3. 语义记忆(Semantic Memory):人物档案与客观事实卡 ​

把零碎对话里提炼出的长期事实与偏好整理成干净卡片——比如“用户偏爱极简代码风格”、“主库只读副本端口为 5433”。

4. 程序性记忆(Procedural Memory):越用越顺手的肌肉记忆 ​

把经过多次验证的高效套路沉淀成可复用的 SOP 规则或脚本模板——比如“排查线上内存泄漏的标准五步诊断命令”。

类比 · 档案室管理员的三把尺子

你可以把记忆检索想象成一位老练的档案室管理员:你冲进来说“快帮我找支付模块报错的旧资料”。平庸的管理员只会翻出字面最像的三年前废稿;而老练的管理员会同时权衡三把尺子——是不是最近刚用过(时近性)、当时闹得有多大(重要性)、以及和眼前案子有多贴切(相关性),三秒钟抽出来的刚好是最要命的那一份卷宗。

类比 · 人类睡眠时的“海马体整理”与“档案封条”

记忆系统最见功力的还有两项后台绝活:

  • 双时间轴封条(冲突消解):当你说“我今年搬到北京了”,系统绝不会让“住上海”和“住北京”同时出现在检索结果里,而是给旧卡片贴上一张“有效期截至今日”的封条(软失效),既消除当下矛盾,又保留历史审计痕迹。
  • 睡觉期反思巩固(Sleep-time Compute):白天对话时不耽误响应速度,等到夜间系统空闲时,后台悄悄把白天零碎的 20 条踩坑日志复盘提炼成 2 条金科玉律,写进语义与程序性记忆。

03 把关键公式读成人话 ​

Stanford Generative Agents(Park et al., 2023) ↗ 奠定了 Agent 记忆召回的经典三维打分公式:

S(m,q,t)=αrec⋅R~(m,t)+αimp⋅I~(m)+αrel⋅C~(m,q)

把公式读成直觉:- R~(m,t) 是时近性(Recency):距离上次访问这条记忆过了多久,越久没碰分数就按指数曲线慢慢淡忘;但只要今天又被命中一次,时钟立刻清零刷新——就像人脑“越常用越清晰”的提取强化效应。

  • I~(m) 是重要性(Importance):写入那一刻先由轻量模型定级——“中午吃啥”只评 1 分,“核心架构换技术栈”评 9 分,天然挡住日常寒暄的噪音。
  • C~(m,q) 是相关性(Relevance):当前查询 q 和这条记忆 m 在语义向量上的余弦贴合度。
  • 三项先各自缩放到 0∼1 之间再加权求和,完美避免“只记昨天忘了大事”或“把十年前过时旧账翻出来搅局”。

其中决定记忆如何随时间自然褪色的指数遗忘曲线,写出来非常直观:

R(m,t)=γΔt=exp⁡(−λΔt),Δt=t−tlast(m)

把公式读成直觉:- 假设每小时衰减因子 γ=0.96:刚聊过 1 小时的事保鲜度高达 0.96,过了一天(24 小时)降到 0.38,过了三天就退到背景板。

  • 更妙的是分母只算距上次被提起的时间 tlast(m)——只要一条半年前的架构铁律每隔几天就被引用一次,它的 Δt 就会反复归零,永远保持鲜活;真正被遗忘的只有长期无人问津的碎片废话。

04 它在模型里怎么工作 & 与上下游的关系 ​

走一遍 “新旧技术栈切换”的完整记忆生命周期,就能看清这几个模块是怎么无缝咬合的:

  1. 写入与冲突封口:你在 1 月说“主项目全用 Python”,系统在语义库建档 m1;到了 6 月你说“今年已全面迁移至 Rust”,后台判别器发现新事实与 m1 语义冲突,立刻把 m1 的有效截止时间封口为 6 月,并写入活跃条目 m3。
  2. 三维精准召回:第二天你问“帮我写个并发抓包模块”,检索引擎综合时近性、重要性与相关性,精准捞出 m3(Rust)而完全跳过已封口的 m1(Python),同时刷新 m3 的最近访问时钟。
  3. 内存换页与夜间巩固:如果这次排查聊了 60 轮撑满工作记忆(RAM),MemGPT 式管理器会收到“内存压力警报”,把早期细节刷进外部情景日志;夜深人静时,离线反思引擎再把最近几次并发排障经历提炼成一条程序性 SOP,下次遇到同类问题直接秒答。

在整张大模型能力地图里,Agent 长期记忆架起了“单次无状态推理”通往“持续成长型数字伙伴”的桥梁:

  • 上游基础设施:底层召回靠 RAG 向量与知识图谱检索,主窗口的容量与前缀缓存控制靠 上下文工程 与 长上下文建模,而 MemGPT 式的记忆读写本身直接封装成模型可自主调用的 工具函数。
  • 下游高阶应用:在长周期 编程 Agent 中,跨仓库沉淀的架构约定与排障经验能显著提高一次修复率;而在前沿的 Agentic RL 中,研究者正尝试用强化学习直接训练模型自己决策“何时该记、何时该忘、何时去翻档案”。

05 演化对比与避坑备忘 ​

代表方案核心设计适合什么场景
Generative Agents (arXiv ↗)记忆流 + 三维检索 + 定期反思树长期角色扮演、多智能体社会模拟
MemGPT / Letta (arXiv ↗)仿 OS 分页,模型自主调函数换页超长周期个人助理、有状态持续会话
Mem0 (arXiv ↗)后台事实抽取 + ADD/UPDATE/DELETE 消解高并发生产客服、个性化偏好持久化
Zep / Graphiti (arXiv ↗)双时间轴时序知识图谱企业级复杂关系追踪、可审计状态演进

三个最容易踩的实战坑:

  1. 把幻觉和恶意文本写进永久记忆(Memory Poisoning):如果模型今天胡说八道了一次,或者读到恶意网页里藏的间接提示注入,而你的系统傻乎乎地把它写进了永久语义库,这个错就会阴魂不散地毒害未来半年的每一次对话。写入前必须加可信度门控与来源隔离。
  2. 只管疯狂往里存,从来不做冲突覆写和去重:把每轮闲聊全切块塞进向量库,一个月后记忆库就退化成低信噪比垃圾场,模型同时读到你去年喜欢 A、今年喜欢 B,当场自相矛盾。
  3. 在主对话路径里同步跑重型事实抽取和反思:让用户发一句话干等 5 秒钟看模型整理记忆,体验直接崩盘。在线只做毫秒级召回,把抽取、合并与反思统统丢给后台异步队列慢慢消化。

想查看 MemGPT 三层存储状态流图、双时间轴冲突消解机制以及可运行的 Python TieredMemoryEngine 源码?按快捷键 M 或点击顶部 技术 Wiki 随时切换。

Agent 长期记忆系统(Agent Memory Systems) 是使大语言模型智能体跨越单次会话与有限上下文窗口边界,持续积累用户偏好、历史事件与任务技能的状态存储、检索与演化架构。与面向静态只读文档库的传统 RAG 检索增强 不同,Agent 记忆具有高动态可写性、强时序依赖性、主体个性化以及随经验演进的冲突更新与巩固能力。

直观理解

标准大语言模型每次重启都像患有“顺行性遗忘症”——哪怕昨天刚敲定十条代码规范,今天开启新对话照样忘得一干二净。长期记忆系统相当于给智能体装上了一套操作系统级虚拟内存 + 人类海马体机制:把当前工作台当成极速内存(RAM),把海量往事存进磁盘,需要时按“最近、重要、相关”三个维度瞬间调页回脑海,并在闲时复盘反思、淘汰过时旧账。

起源背景与演进脉络 ​

早期对话系统仅通过截断历史消息或简单拼接向量库切片维持“伪记忆”,很快面临三类失效:无法突破窗口记住数周前的核心事实;传统相似度检索会把过时旧状态(“去年住在上海”)与新状态(“本月搬到北京”)同时召回导致矛盾;缺乏从失败经历中提炼通用规律的抽象机制。记忆架构由此历经三代演进:

  1. 记忆流与反思树(2023):Stanford Generative Agents(Park et al., 2023)引入“时间衰减 + 重要性 + 相关性”三维检索评分,并通过定期 Reflection(反思) 将碎片观察归纳为高层信念;CoALA(Sumers et al., 2023)确立了工作、情景、语义与程序性四类记忆谱系。
  2. 仿 OS 虚拟内存管理(2023–2024):UC Berkeley 提出 MemGPT(后演进为 Letta),将上下文窗口类比操作系统主存(RAM)、外部数据库类比磁盘,赋予模型自主调用换页工具与响应内存压力中断的能力。
  3. 动态事实图谱与睡眠巩固(2024–2025):Mem0 与 Zep / Graphiti 引入冲突消解状态机(ADD / UPDATE / DELETE)与双时间轴时序知识图谱,并兴起 Sleep-time Compute(睡眠期巩固),在离线空闲窗口异步整理索引以消除在线延迟。

核心原理与数学推导 ​

1. 认知科学四类记忆分类与 MemGPT 分层分页 ​

依据 CoALA 认知架构,Agent 记忆分为四类:工作记忆(Working) 对应受 上下文工程 管控的当前窗口;情景记忆(Episodic) 以时序日志保存亲历事件与排查轨迹;语义记忆(Semantic) 以结构化 KV 或时序图谱沉淀提炼后的客观事实与偏好;程序性记忆(Procedural) 以 SOP 模板、可复用代码工具或权重形式保存“怎么做”的肌肉记忆。

MemGPT 将其落地为三层物理空间并把换页封装为 工具调用:Main Context(主存 RAM) 常驻系统指令、可读写 Core Memory 块与近期 FIFO 队列;Recall Storage 记录完整时序交互;Archival Storage 承载无限容量的外部向量归档库。当主存占用突破警戒线(如 70%)时,运行时注入内存压力中断,触发模型调用 core_memory_replace 更新核心事实、将旧消息刷盘,并在后续需要时借 archival_memory_search 按需调页(Page-in)。

2. 三维记忆检索评分公式 ​

面对候选记忆条目 m∈M 与查询 q,Generative Agents 确立的经典检索打分由时近性(Recency)、重要性(Importance) 与相关性(Relevance) 三维归一化加权组成:

S(m,q,t)=αrec⋅R~(m,t)+αimp⋅I~(m)+αrel⋅C~(m,q)

其中指数时间衰减 R(m,t)=γΔt=exp⁡(−λΔt)(Δt=t−tlast(m) 为距上次访问的时间间隔);重要性 I(m)∈[1,10] 在写入时由模型评定以过滤日常寒暄;相关性 C(m,q)=eq⊤em∥eq∥2∥em∥2 为查询与记忆向量的余弦相似度。三项经 Min-Max 归一化至 [0,1] 后求和取 Top-K 注入工作区,并刷新命中记忆的 tlast(m)←t(提取强化效应)。

3. 记忆冲突消解与离线反思巩固 ​

新事实进入语义库时须经冲突消解算子:先检索相似度超阈值 τ 的已有邻域 N(fnew),再由判别器输出操作 a∈{ADD,UPDATE,DELETE,NOOP}。时序图谱系统进一步采用双时间轴模型(Bi-temporal Model),为每条事实标注有效区间 [tvalid_from,tvalid_to] 与写入时间 ttx——更新时不物理删除旧事实,而是封口其 tvalid_to,既消除推理矛盾又保留审计回溯。当未巩固记忆的累积重要性达标 ∑m∈WI(m)≥Θref 或系统空闲时,触发离线反思巩固,将多条碎片情景提炼为高层语义与程序性 SOP。

架构数据流与分页闭环 ​

图表加载中...

主流 Agent 记忆系统架构横向对比 ​

框架 / 范式核心存储结构写入与更新机制冲突消解策略主要优势与局限
Generative Agents平面记忆流 + 反思树观察即追加,累积重要性触发反思靠时间衰减自然退场模拟自然遗忘与高层归纳优雅;缺乏精确事实纠错
MemGPT / Letta主存 + Recall / Archival 库模型自主调用内存工具函数换页模型主动调用 core_memory_replace自主度高、天然适配超长对话;依赖强工具调用能力
Mem0向量库 + 可选实体关系图后台抽取候选事实并做四态判定显式 ADD / UPDATE / DELETE / NOOP集成轻量、显著削减冗余;抽取延迟与成本需管控
Zep / Graphiti双时间轴时序知识图谱增量实体抽取与边失效封口保留旧边并设置 invalid_at擅长多跳关系推理与历史审计;图谱维护复杂度较高

核心 Python 参考实现 ​

下面实现自包含的 TieredMemoryEngine:支持三维归一化打分检索、基于双时间轴软失效的语义冲突消解(UPDATE/NOOP),以及累积重要性触发的反思巩固。

python
from __future__ import annotations
import math
from dataclasses import dataclass, field


def cosine_sim(a: list[float], b: list[float]) -> float:
    dot = sum(x * y for x, y in zip(a, b))
    return dot / (math.sqrt(sum(x * x for x in a)) * math.sqrt(sum(y * y for y in b)) + 1e-9)


@dataclass
class MemoryRecord:
    mem_id: str
    kind: str  # "episodic" | "semantic" | "procedural"
    text: str
    embedding: list[float]
    importance: float  # 1.0 ~ 10.0
    created_at: float
    last_accessed_at: float
    valid_to: float | None = None  # None 表示当前活跃(双时间轴软失效)


@dataclass
class TieredMemoryEngine:
    decay_rate: float = 0.96
    weights: tuple[float, float, float] = (0.30, 0.30, 0.40)  # recency, importance, relevance
    conflict_sim_threshold: float = 0.90
    reflection_threshold: float = 15.0
    records: list[MemoryRecord] = field(default_factory=list)
    _unconsolidated_imp: float = 0.0

    def add_or_resolve(
        self, mem_id: str, kind: str, text: str, embedding: list[float], importance: float, now: float
    ) -> str:
        action = "ADD"
        if kind == "semantic":
            for rec in self.records:
                if rec.kind == "semantic" and rec.valid_to is None:
                    if cosine_sim(rec.embedding, embedding) >= self.conflict_sim_threshold:
                        if rec.text == text:
                            rec.last_accessed_at = now
                            return "NOOP"
                        rec.valid_to = now  # 封口旧事实而非物理删除
                        action = "UPDATE"
        self.records.append(MemoryRecord(mem_id, kind, text, embedding, importance, now, now))
        self._unconsolidated_imp += importance
        return action

    def retrieve(self, query_emb: list[float], now: float, top_k: int = 3) -> list[tuple[float, MemoryRecord]]:
        cands = [r for r in self.records if r.valid_to is None]
        if not cands:
            return []
        raw_rec = [self.decay_rate ** max(0.0, now - r.last_accessed_at) for r in cands]
        raw_imp = [r.importance for r in cands]
        raw_rel = [cosine_sim(query_emb, r.embedding) for r in cands]

        def norm(vals: list[float]) -> list[float]:
            lo, hi = min(vals), max(vals)
            return [1.0] * len(vals) if hi - lo < 1e-9 else [(v - lo) / (hi - lo) for v in vals]

        n_rec, n_imp, n_rel = norm(raw_rec), norm(raw_imp), norm(raw_rel)
        wr, wi, wc = self.weights
        scored = [(wr * n_rec[i] + wi * n_imp[i] + wc * n_rel[i], r) for i, r in enumerate(cands)]
        scored.sort(key=lambda x: x[0], reverse=True)
        for _, rec in scored[:top_k]:
            rec.last_accessed_at = now  # 提取强化
        return scored[:top_k]

    def maybe_consolidate(self, now: float) -> MemoryRecord | None:
        if self._unconsolidated_imp < self.reflection_threshold:
            return None
        recent = [r for r in self.records if r.kind == "episodic" and r.valid_to is None][-5:]
        if not recent:
            return None
        dim = len(recent[0].embedding)
        avg_emb = [sum(r.embedding[i] for r in recent) / len(recent) for i in range(dim)]
        insight = MemoryRecord(
            f"ref_{len(self.records)}", "procedural",
            "反思沉淀: " + " | ".join(r.text for r in recent), avg_emb, 9.0, now, now,
        )
        self.records.append(insight)
        self._unconsolidated_imp = 0.0
        return insight


if __name__ == "__main__":
    engine = TieredMemoryEngine()
    print(engine.add_or_resolve("m1", "semantic", "用户主语言是 Python", [0.95, 0.05], 8.0, now=1.0))
    print(engine.add_or_resolve("m2", "episodic", "昨日修复缓存穿透耗时两小时", [0.10, 0.90], 7.5, now=2.0))
    print(engine.add_or_resolve("m3", "semantic", "用户今年已全面迁移至 Rust", [0.96, 0.04], 9.0, now=20.0))
    for score, rec in engine.retrieve([0.94, 0.06], now=24.0, top_k=2):
        print(f"hit={rec.mem_id} score={score:.3f} text={rec.text}")
    print("consolidated:", engine.maybe_consolidate(now=24.0))

工程实践与常见陷阱 ​

工程实践

  • 将记忆检索与写入巩固异步解耦:在线路径仅跑毫秒级召回,把事实抽取、冲突判别和反思巩固放入后台队列(Sleep-time Compute),既不阻塞首字响应,又能调用更强模型保证提炼质量。
  • 绑定溯源元数据与租户作用域:强制记录 user_id / agent_id / source_turn / valid_from,防止多用户串话并支持可解释溯源与人工纠错。
  • 重视程序性记忆沉淀:将用户反复纠正的代码风格、故障排查步骤沉淀为可执行 SOP,往往比堆砌碎片事实带来更显著的长期准确率跃升。

常见陷阱

  • 记忆毒化与幻觉固化(Memory Poisoning):一次幻觉或外部间接提示注入若被直接写入长期语义库,将持续污染未来数月会话;写入前务必设可信度门控,隔离未经验证的外部观测。
  • 无节制写入导致记忆库退化:把每句寒暄全切片入库会迅速淹没高价值信号,必须引入写入显著性门控(Salience Gating)与周期合并去重。
  • 仅靠余弦相似度忽视时效演化:旧架构方案在语义上往往与当前查询极度相似;若缺少时间衰减与失效封口,模型会反复按过时规范输出错误结论。

延伸阅读与参考论文 ​

  • Packer, C., Wooders, S., Lin, K., et al. (2023). MemGPT: Towards LLMs as Operating Systems. arXiv:2310.08560 ↗
  • Park, J. S., O'Brien, J., Cai, C. J., et al. (2023). Generative Agents: Interactive Simulacra of Human Behavior. UIST 2023. arXiv:2304.03442 ↗
  • Sumers, T. R., Yao, S., Narasimhan, K., & Griffiths, T. L. (2023). Cognitive Architectures for Language Agents (CoALA). TMLR 2024. arXiv:2309.02427 ↗
  • Rasmussen, P., Paliychuk, P., Beauvais, T., et al. (2025). Zep: A Temporal Knowledge Graph Architecture for Agent Memory. arXiv:2501.13956 ↗
  • Chhikara, P., Khant, D., Aryan, S., et al. (2025). Mem0: Building Production-Ready AI Agents with Scalable Long-Term Memory. arXiv:2504.19413 ↗