AI 成本性能优化器

解决什么问题

Agent 应用的成本失控通常来自两个习惯：每次调用都把请求发给最大的模型，以及把同样的查询重复提交。前者让简单任务承担复杂任务的价格，后者为完全相同的输出反复付费。这个技能要填的就是这个缺口——在不改动 Agent 主流程的前提下，为每次模型调用加上一层调度与记账。

核心能力

多后端缓存提供四种可切换后端：.cache/ 目录下的 JSON 文件、带自动过期的 SQLite（cache_store 表）、高性能分布式缓存 Redis（需 pip install redis），以及 L1→L2 自动回填的 Tiered 多层缓存。

历史驱动的模型选择用 score = success_rate*40 + speed*30 + cost*30 为候选模型打分，并按任务复杂度（simple / medium / complex）调整权重；预算超限时自动切换到更便宜的模型。

预算控制按月跟踪 CNY 支出：80% 触发告警，100% 自动降级模型，次月自动恢复。

错误处理由 @RetryHandler 提供 max_retries=3、backoff_base=1.0、jitter=True 的退避重试与 fallback 兜底；缓存后端按 Redis→SQLite→File→None 顺序自动降级，而不是直接失败。

工作方式

请求进来先查缓存；未命中则按复杂度分级选择模型，简单任务走 Haiku / Kimi K2.5 级别，中等任务走 Sonnet / Kimi K2，复杂推理才动用 Opus / GPT-4；调用结果被记录并反馈到打分函数中；预算触顶时自动降级；失败走重试与兜底。配套的 integration_server.py 暴露 POST /optimizer/model-select、GET /optimizer/cache-stats、GET /optimizer/budget-status、GET /optimizer/report、POST /optimizer/cache-clear 五个接口，另有 performance_dashboard_pro.html 做可视化。

适用边界

• 打分权重是通用默认值，需要针对自己的业务负载校准后再信任降级决策。
• Redis 后端需要额外安装依赖，文件与 SQLite 后端零依赖即可运行。
• 分级选模依赖对任务复杂度的判定；判断错了，降级链路再完善也救不回准确性。
• 文档中量化策略案例的周利率与胜率来自作者自身场景的实测，不代表普遍可复现。
• 作者特别强调：AI 补齐的是执行力，回测结论仍需人工判别是否过拟合。