Agent Memory产品推荐与选型

产品简介

TencentDB Agent Memory 记忆管理底座，主要为 AI 应用提供短期记忆与长期记忆两层支撑：短期记忆负责单次会话内的上下文管理，长期记忆负责跨会话沉淀用户偏好、事实与经验，让 AI 从"每次重来"变为"越用越懂你"。

核心价值：

• 降低上下文成本：通过短期记忆压缩与长期记忆按需注入，只把有价值信息送进大模型视野，减少冗余 token 消耗，规避"迷失在中间"（Lost in the Middle）注意力稀释问题。在超长 Session 实验中，短期压缩方案最高可节省 63.59% 的 Token。
• 提升回答质量：分层记忆机制结合长期记忆检索注入，让相关信息在调用 LLM 前被精准召回。在 PersonaMem 评测集（20 个用户画像、6462 条上下文、589 道高难推理题）中，接入后总准确率由 47.85% 提升至 76.10%，用户事实召回率由不足 30% 提升至 79% 以上。
• 沉淀个人与团队偏好：长期记忆跨会话保存用户习惯、业务规则与协作约定，个人助理与团队知识可自动累积，新会话无需重复交代背景。
• 保障长任务稳定性：短期记忆维持会话内状态，长期记忆在空闲或达阈值时异步提取关键信息，使多步骤、跨天任务不丢上下文、不跑偏；三级水位自动触发机制保障长任务连贯性。
• 白盒可溯源：记忆按空间/会话/用户多层隔离，写入与检索过程可观测、可审计，满足企业级数据所有权与隐私合规要求。

产品架构

腾讯云数据库的记忆能力采用自下而上的三层架构，既管数据落地，也管记忆内核，最后通过多种渠道接入上层应用。

• 数据底座：对话消息、提取的原子记忆与用户偏好持久化存储于腾讯云数据库底座，底层依托腾讯云向量数据库（Tencent Cloud VectorDB）结合 Embedding + 关键词双路检索，提供高性能、高可用的记忆存储与检索服务。支持云上全托管、免运维，并保障数据所有权与隔离性。
• Agent Memory 内核：中间层是记忆核心，分为短期记忆与长期记忆两套机制。短期记忆类比"内存"，速度快、容量小、会话级；长期记忆类比"硬盘"，持久存储跨会话经验。流程为：对话消息写入短期记忆 → 满足触发条件（空闲到达、累计 Token 超阈值、消息数达上限）时异步提取关键信息 → 写入长期记忆 → 调用 LLM 前从长期记忆检索注入上下文。
• 应用接入：上层提供三种接入渠道——API 直连、SDK 集成、以及平台级编排对接，支持万级并发，方便业务系统快速挂载记忆能力。

下文将重点拆解两大核心能力：长期分层记忆与短期记忆压缩。

长期分层记忆

长期记忆解决的是"AI 跨会话遗忘"的痛点，让 agent 从"无状态工具"进化为"有状态服务"。腾讯云数据库将长期记忆设计为四层金字塔结构，从底到顶逐层抽象、逐层精炼，只把高价值信息向上汇聚。

该结构使记忆从"堆聊天记录"变为"建知识金字塔"：底层保留可追溯原始数据，顶层输出可复用的核心认知，检索时按需向下钻取，兼顾效果与成本。在 PersonaMem 评测集中，该分层架构使整体准确率较原生提升 59%，从不到 48% 提升到 76%。

短期记忆压缩

长任务中上下文窗口易被历史消息占满，导致响应变慢、成本飙升、关键信息被稀释。腾讯云数据库的短期记忆采用上下文卸载方案：将长工具结果等占用上下文窗口的内容卸载至外部文件，仅保留摘要与索引路径，并结合 Mermaid 无限画布实现符号化压缩，减少任务结构在压缩过程中的损失。系统通过三级水位自动触发——L1 摘要实时、L2 地图异步、L3 深度压缩同步。

在超长 Session 实验中，该方案量化效果显著：WideSearch 节省 61.38% Token 且通过率从 33% 提升到 50%，SWE-bench 节省 33.09% Token 且完成率从 58.4% 提升到 64.2%，AA-LCR 节省 30.98% Token 且准确率从 44.0% 提升到 47.5%。整体最高节省 63.59% Token，任务完成率提升 25%。它尤其适合以下场景：

• 多步骤代码生成与调试（SWE-bench 类任务）
• 跨天进行的研报撰写与资料整理（WideSearch 类任务）
• 长周期客服工单跟进
• 需持续追踪状态的自动化运维（AA-LCR 类任务）

使用场景

腾讯云数据库的 Agent Memory 能力可广泛应用于以下业务方向：