Agent Skills
返回列表
🤖

智能体上下文压缩策略

AI Agent 更新于 2026.08.30

将以下提示词粘贴到你的 AI 对话框中:

请根据 https://skillhub.cn/install/skillhub.md,安装 @zcwl/context-engineering

技能介绍

为什么要做上下文压缩

当智能体会话与代码库增长到数百万 token 时,直接把全部历史塞进上下文会迅速撞上窗口上限。朴素做法是尽量压到最小,但这样容易丢失 error message、file path、决策和下一步计划,智能体随后需要重新搜索、重跑步骤,并把 token 花在上下文重建上。

因此优化目标不应是 tokens per request,而是 tokens per task:从任务开始到完成的总消耗。一份节省了 0.5% token 但造成更多重取的压缩策略,实际会很贵。

这套技能如何工作

它围绕三条可落地路线组织压缩:

  1. Anchored Iterative Summarization:维护结构化、持久化的摘要,显式分区记录会话意图、文件修改、决策和下一步。压缩触发后只摘要新增的被截断片段,再合并进已有摘要,而不是整体重写。结构会逼着保留关键信息。
  2. Opaque Compression:生成面向重建保真度的压缩表示,压缩率可达 99%+,但可解释性差,无法直接验证保留了什么。
  3. Regenerative Full Summary:每次压缩时生成详细结构化摘要,可读性好,但因完全重写,多次压缩后仍可能丢失细节。

压缩触发同样重要。常见策略包括固定阈值、滑动窗口、按重要度压缩和任务边界压缩。对多数编码智能体来说,滑动窗口 + 结构化摘要 在可预测性与质量之间最均衡;通常可在上下文利用率到 70%–80% 附近触发。

质量验证建议使用 probe-based evaluation:压缩后直接提问,例如“原始错误信息是什么?”“我们修改了哪些文件?”“下一步应做什么?”“关于 Redis 问题我们做出了什么决定?”。这样可检验事实保留、文件追踪、后续计划和推理链的实际可用性,而不是依赖表面词重合。

对编码任务可以关注六个维度:Accuracy(技术细节是否正确)、Context Awareness(是否反映当前状态)、Artifact Trail(是否知道读了/改了哪些文件)、Completeness(是否覆盖问题各部分)、Continuity(是否无需重取即可继续)、Instruction Following(是否遵守约束)。评估显示准确性波动最大;文件改动轨迹普遍最弱,约在 2.2–2.5/5.0。

大代码库场景可用三阶段工作流:先用架构图、文档和关键接口产出研究文档;再转成包含函数签名、类型定义和数据流的实现规范(例如 5M token 代码库可压到约 2,000 词规格);最后依据规格执行。迁移或重构时,把参考 PR、手工迁移示例当模板,能暴露静态分析难以发现的约束与正例。

适用边界与注意点

Anchored Iterative Summarization 适合长会话、需要文件追踪和可验证摘要的场景;Opaque Compression 适合短会话、重取成本低且追求最大压缩率;Regenerative Summary 适合需要高可解释性、存在清晰阶段边界的阶段。

已知短板是 artifact trail。即使显式记录文件分区,长会话中仍容易漏掉创建、修改、只读文件、函数名、变量名、错误消息。若文件追踪关键,应单独维护 artifact index 或 agent scaffolding 中的文件状态追踪。

实现锚定迭代摘要时,建议:定义与 agent 需求匹配的显式分区;首次触发时把截断历史按区摘要;之后只摘要新增内容并合并;记录各信息来源于哪一轮压缩以便调试;并持续监控重取频率,把它当作压缩质量信号。

使用场景

  • 修复长会话登录 401 问题时:压缩后仍需准确回答原始错误、失败文件和 Redis 连接原因,避免反复重读日志。
  • 跨 5M+ token 代码库改造连接池时:把探索过程压缩成研究文档与接口规格,实现阶段只依赖结构化摘要。
  • 在压缩链路上线前做验证:用 recall、artifact、continuation、decision probes 检验会话压缩后的可用性。
  • 调试智能体「忘记改了哪个文件」时:回查结构化摘要中的 file modifications 分区并对比压缩前后的 bad case。

适合人员

  • 构建编码智能体的工程师:需要在超过上下文窗口的仓库上稳定执行跨文件任务。
  • 设计长会话记忆策略的开发者:需要决定摘要分区、压缩触发点和重复压缩的质量门槛。
  • 训练上下文压缩评估集的提示工程师:需要设计 recall、artifact、continuation、decision probes。
  • 维护多模块重构工作流的技术负责人:需要把探索阶段压成可执行规格以稳定交付。