Token 上下文优化器
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,将 @user_4b08597e/token-context-optimizer 安装到 AI 助手。
技能介绍
解决什么问题
长任务里,Agent 常把工具输出、原始文件、历史讨论和中间推理全部留在上下文,导致 token 膨胀、缓存命中率下降、关键信息被噪音淹没。Token 上下文优化器把目标收窄为:只保留与当前决策相关的 token,其余通过子代理、文件、摘要、记忆或缓存移出,同时不牺牲正确性。
如何工作
该技能提供一套按位置分组的优化策略:
- 输入削减:用
Grep/Glob定位后再读取,限制offset/limit;对大文件、JSON、二进制只传路径或按 ID 引用。 - 压缩已有内容:把冗长工具输出总结成事实,或用
scripts/run_to_scratch.py将 stdout 落到临时文件,上下文只保留开头和路径。 - 生命周期管理:丢弃过期信息、维护状态摘要、把持久约定写入记忆文件,减少重复读入。
- 缓存与复用:稳定提示前缀、按输入哈希缓存昂贵结果、恢复子代理,避免重复探索。
- 并行与路由:独立调用并发执行,按任务选择
lite、默认模型或 reasoning 模型。 - 度量与账本:用
scripts/token_ledger.py记录每项优化前后的 token 估算,让节省可审计。
适用边界
它适合代码审查、长文档分析、多工具调用、子代理编排等上下文压力较大的场景。注意:精确字符串、函数体、错误文本等影响正确性的内容不能被摘要掉;预算和压缩策略应分阶段启用,避免为了省 token 而遗漏关键事实。
使用场景
- 处理多轮代码审查时,把大文件读取改为 Grep 定位加限制读取,只保留 diff 进入上下文。
- 分析大 JSON 或工具输出时,用临时文件承接完整 stdout,上下文只留摘要和文件路径。
- 多子代理并行探索代码库时,要求返回结构化摘要,并用 ledger 记录每项优化的 token 节省。
- 维护长会话状态时,把决策、待办和关键引用压缩成状态摘要,避免重复读入旧输出。
适合人员
- 维护 Agent 工作流的工程师,想降低长任务中的 token 消耗并保留可审计的优化记录。
- 做代码审查自动化的开发者,需要把大文件、日志和 diff 控制在最小上下文里完成判断。
- 编排多子代理的研究人员,希望并行探索不同模块并按预算汇总结果而不是重复加载资料。
- 构建生产级 LLM 应用的团队,需要稳定前缀缓存、结果复用和 token 账本来控制成本。