技能介绍

问题在哪

大模型 Agent 的上下文窗口是硬上限，不是「再堆 token 就能做完」：长对话里工具输出常常吃掉 80% 以上的轨迹，检索文档和早期轮次又叠在一起，成本、延迟和退化会同时上来。目标也不是把窗口「变大」，而是在同一上限里让信号多、噪声少。

技能在讲什么

本技能围绕四类可落地的策略组织工作流：

压缩（Compaction）：临近限制时对可分区内容做高保真摘要，用摘要重开窗口；优先级通常是工具输出、旧轮次、检索文档，不压系统提示。
观察掩码（Observation Masking）：决策已用过的冗长工具输出，用紧凑引用替换完整正文，需要时再取回。
KV 缓存优化：通过稳定前缀（系统提示、工具定义）与块级复用，减少重复推理的计算与等待。
上下文分区：子代理在隔离上下文中做子任务，协调层只做综合，避免一条轨迹无限膨胀。

配套还有预算管理：给系统提示、工具定义、检索、历史与缓冲分配 token，并在利用率超过约 70%～80% 时按构成选策略（输出主导→掩码，历史主导→压缩，多组件→组合）。

边界与注意

压缩、掩码都有质量代价：资料中的经验区间是压缩约 50%～70% token 且退化控制在较低水平，掩码针对已「使命完成」的观察。掩码不是全删——当前任务关键、最近一轮、仍在推理中的观察不应掩码。分区最激进，聚合结果时仍可能要再摘要。上线前应先度量基线，并在生产规模验证退化与延迟，而不是默认「省 token 就等于更好」。