Agent 记忆系统设计指南

在构建 AI Agent 时，开发者常陷入一个误区：试图把所有历史对话塞进上下文窗口，以为这就是“记忆”。结果往往是 token 预算耗尽，且检索出大量无关的闲聊。这个技能将你视为「Agent 记忆架构师」，指导你将混乱的对话流转化为可检索的结构化资产。

核心机制：分层与生命周期

本指南将 Agent 记忆拆分为职责明确的四个层级，避免单一向量库的“大杂烩”式设计：

• 短期记忆：驻留在上下文窗口，会话结束即弃，用于维持当前对话连贯性。
• 事实记忆：存储用户偏好与身份属性（如 用户偏好中文回复），存于结构化 KV 或图库，支持更新覆盖。
• 情景记忆：记录带时间戳的历史事件（如 上周帮用户订过机票），存于向量库，需考虑时间衰减。
• 程序记忆：沉淀特定用户的做事规范（如 该用户的报告要先给结论），随反馈演化。

运作流程：从写入到遗忘

一个健壮的记忆系统不仅是“存”，更在于“管”：

• 抽取式写入：会话结束后，通过模型抽取关键事实以第三人称短句存储，而非保存原文。写入需满足跨会话有用、用户显式要求或纠正旧记忆这三个门槛之一。
• 分层召回：每轮对话中，事实记忆全量注入，情景记忆按语义相似度 × 时间衰减因子进行检索，并严格限制 Token 预算（通常占上下文的 10-15%）。
• 主动遗忘与整合：定期归档低频、低置信度记忆；将多条相似情景（如 10 次点奶茶）压缩为模式化事实（如 用户习惯周五下午点奶茶）。

适用边界与避坑

• 隐私红线：多用户环境必须实现物理隔离，用户要求删除的数据必须物理销毁，不可仅做逻辑标记。
• 方案迭代：本指南提供架构设计原则，具体的向量库或数据库选型请参考官方最新文档。