从聊天记录到真正的记忆：为 AI Agent 设计一套分层记忆系统从聊天记录到分层记忆系统

喵叔

发布于 2026-09-09 13:24:01

2391

概述

随着大模型能力的提升，越来越多的应用不再满足于做一个一问一答的 ChatBot，而是想做成能长期陪伴用户、记住用户偏好、跨会话理解用户意图的 Agent。但大模型本身并没有真正意义上的记忆，它每一次回答都只是基于当前输入的 Prompt 做一次推理，所谓的“记住了什么”，其实都是开发者把历史信息重新组织好之后又喂给了模型。于是一个 Agent 做得好不好，很大程度上并不取决于底层模型，而取决于它背

原创声明：本文系作者授权腾讯云开发者社区发表，未经许可，不得转载。

如有侵权，请联系 cloudcommunity@tencent.com 删除。

Agent 记忆服务

系统全貌：记忆是怎么被用起来的
- 二、记忆该存什么，而不是聊天记录本身
  - 2.1 为什么不能直接保存聊天记录
  - 2.2 记忆保存的是事实，不是对话
  - 2.3 分层记忆：短期、中期、长期
- 三、主题管理：让 Agent 在多个话题间自由切换
  - 3.1 多主题聊天带来的上下文混乱
  - 3.2 如何判断当前消息属于哪个主题
  - 3.3 Topic 不能完全隔离
  - 3.4 Global Memory 承载跨话题背景
  - 3.5 Constraint Memory 管理约束条件
  - 3.6 Topic 关联图
- 四、超长内容的处理：切分、检索与递归摘要
  - 4.1 超长聊天历史怎么办
  - 4.2 用户一次性发送超长内容怎么办
  - 4.3 摘要本身也超长怎么办
  - 4.4 Chunk 不只是用来摘要的，还要用于精确检索
- 五、Context Builder：在有限 Token 内组装最优上下文
  - 5.1 候选信息打分与 Token 预算
  - 5.2 Context Builder 的职责
  - 5.3 回答之后的记忆更新
  - 5.4 推荐的数据结构
- 六、结语

从聊天记录到真正的记忆：为 AI Agent 设计一套分层记忆系统从聊天记录到分层记忆系统

从聊天记录到真正的记忆：为 AI Agent 设计一套分层记忆系统从聊天记录到分层记忆系统

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐