Agent Skills
返回列表
🤖

上下文优化

AI Agent 更新于 2026.08.30

将以下提示词粘贴到你的 AI 对话框中:

请根据官方安装指南 https://skillhub.cn/install/skillhub.md 将上下文优化(@kunlungrowth/kg-context-optimization)安装到你的 AI 助手中。

技能介绍

要解决的问题

当任务复杂度撞上 token 预算或成本上限,Agent 通常不是被模型能力卡住,而是被上下文里堆积的冗余内容拖垮。工具输出常常占据轨迹的 80% 以上 token,历史对话里塞满寒暄和已完成的探索往返,检索回来的文档还带着一次性推理的佐证。本技能不要求换更大的模型或更长的窗口,而是靠测量纪律扩展有限窗口的有效容量:先量化上下文构成,再按优先级动手,最后用指标验证省了多少、质量掉了多少。

核心能力与工作步骤

四大策略按成本从低到高排序执行:

  1. KV 缓存优化(最便宜,先做):重排并稳定 prompt 结构,让推理引擎复用已缓存的 K/V 张量。稳定前缀存在时,成本与延迟立省。
  2. 观察遮蔽(observation masking):工具输出使命完成后,用紧凑引用替换冗长原文,原文仍可检索。这是收益最大的一步。
  3. 压缩(compaction):利用率超过 70% 时摘要并重启,且必须先遮蔽低价值主体再压缩。
  4. 上下文分区:单窗口装不下时拆到子 Agent,各自保持干净上下文;预计超过窗口 60% 才启用,因为协调本身有真实开销。

压缩按内容类型分别保留: 工具输出抽取关键发现、指标、错误码与结论,剥掉原始冗余与堆栈(调试中除外);对话轮次保留决策、承诺、用户偏好和上下文转折,删掉寒暄与已结论的往返;检索文档保留与当前任务相关的声明、事实和数据点。

质量兜底触发器: token 减少目标为 50-70%;质量分低于基线 80% 时触发压缩;出现重复、漏指令等注意力退化指征时触发遮蔽 + 压缩;质量分偏低时先审计组成再优化。

最终产出一份 OptimizationPlan 工件:主导成分、有序动作(含预期降幅与质量风险)、预算分配、触发条件和下游 skill 引用,并附自然语言说明解释排序理由。

适用边界

本技能只给降成本的具体手法。以下场景请找对应 skill:解释注意力原理 → context-fundamentals;诊断丢失中间信息或上下文中毒 → context-degradation;设计长会话结构化交接摘要 → context-compression;把大输出存成文件 → filesystem-context。优化后仍需通过 evaluation 类 skill 验证质量、成本与延迟是否真的改善,不要假设「压了就等于赚了」。

使用场景

  • 推理预算固定,需按优先级压缩 Agent 长任务的上下文开销。
  • 多步工具调用输出很长,需要先遮蔽原文并保留可检索引用。
  • prompt 前缀稳定时,需要重排输入提升 KV 缓存命中率。
  • 单个窗口装不下任务,需要评估拆分到多个子 Agent 运行。

适合人员

  • 推理引擎工程师,关注缓存命中率与延迟,需要稳定前缀减少重复计算。
  • Agent 工程师,需要压缩工具输出并避免质量下滑,验证降幅与质量分。
  • 成本控制负责人,需要在预算内交付长任务,想拿到有序的优化方案。
  • 多 Agent 架构师,需要判断何时分区,权衡协调开销与有效容量。