Letta 长期记忆代理

为什么普通代理一重启就“失忆”

多数 agent 的工作方式是无状态的：把上下文塞进一次请求，模型给出回复，会话结束。下次再调用时，之前聊过什么、用过哪些工具、以什么语气和人格说话，全部归零。对一次性问答无所谓，但对长期运行的助手这是致命的——用户第三天追问“上次你说要帮我盯着那个任务”，代理只能反问“什么任务”。

问题不在于模型记不住，而在于没人把状态当作一等公民来维护。身份、工具列表、长期记忆、对话进度散落在临时变量里，进程一退就消失。

这个技能做了什么

本技能把持久状态作为核心，用 Letta 构建 stateful agent，把四类东西沉淀到会话之外：

• 身份：代理的名字、人格设定、系统提示固定下来，跨会话保持一致，不会每次启动换个人设。
• 工具：已注册的工具与调用方式保存在服务端，不需要每次重建函数列表。
• 记忆块：Letta 的 memory blocks 把事实、偏好、长期积累的知识从对话中剥离，单独存储和检索。
• 对话状态：线程与消息历史持久化，回到上次中断的位置能接着往下走。

关键步骤大致是：准备 Node.js 18+ 或 Python 环境，取得 Letta 的 API 凭据与模型提供商的接入凭证；通过 @letta-ai/letta-client 或 letta-client 建立客户端；定义代理的 persona、工具集合与 memory block 结构；之后用 SDK 或 HTTP API 发消息，状态由 Letta 托管，开发者不必自己实现存储层。

只想在终端里跑一个带记忆的本地代理做实验，可以直接用 Letta Code，启动即得，省去搭服务端的功夫。Letta 同时提供 Python 与 TypeScript SDK，以及完整的 API 参考，方便嵌入现有应用。

适用边界与注意点

• 记忆块的召回质量取决于你怎么切块与写入。把所有东西塞进同一个 block，检索会退化成噪声堆砌。
• 长期记忆意味着数据常驻。共享部署时要提前想清楚谁能读到这些记忆，以及是否需要清理策略。
• 本地 Letta Code 适合开发验证；接生产流量还得考虑服务部署、模型配额与延迟。
• 切换模型提供商时，已存的上下文与工具结果可能需要重新适配。
• 这套方案解决的是状态持久化，不解决推理质量。记忆再完整，模型本身的能力仍是上限。