短期记忆指 Agent 在单次会话或任务进行中的上下文窗口内容,包含对话历史、中间推理与工具结果,随任务结束而自然消失。管理短期记忆的关键在于上下文工程:通过滑动窗口、分段摘要、重要性标记等手段,在上下文超限前主动压缩或遗忘低价值信息。
长期记忆指跨会话持久化的知识与状态,通常存储在外部系统(如向量数据库、键值存储、知识图谱),用于让 Agent "记住"历史经验或企业私域知识。
管理长期记忆的关键在于检索与写入策略:将文档切片向量化后存入向量数据库以支持 RAG 检索,同时设计写入时机、去重与更新机制,避免记忆陈旧或冲突。
一个常被忽略的失效模式是"上下文污染":Agent 读取了过期或错误的信息(如工具返回的旧状态),并据此采取行动。长期记忆的写入应当带置信度与时效标记,读出时能判断新鲜度,否则记忆越多反而越容易误导。