统一 AI 网关与多模型路由

解决什么问题

接入多个大模型供应商时，业务代码通常会被厂商细节绑死：请求里写死 base_url、各家 SDK 参数不兼容、system prompt 和工具调用的行为差异需要逐个适配。一旦想换模型、做主备切换或按成本路由，就得回头改业务代码。密钥散落在各服务里也是常见的运维负担。

技能如何工作

这个技能把模型当作可替换的算力资源，通过统一网关收敛差异，核心能力包括：

• 统一协议：对外只暴露一个 OpenAI 兼容端点，业务侧零改造。
• 路由策略：按价格、延迟或质量选择模型，默认模型失败时沿降级链自动切换（如 主→备→免费）。
• 兜底切换：主模型不可用时自动切备，保障高可用。
• 可观测：统一记录每次请求的模型、延迟与 token 花费，便于周/月成本对账。

落地关键步骤：

1. 收敛凭证：供应商 key 集中在网关层，业务只持网关 key，密钥不散落。
2. 定义路由规则：设置默认模型和降级链，并实际验证触发。
3. 设速率/预算上限：按业务方配 quota，防止单点烧穿预算。
4. 统一日志：记录模型、延迟、token，支撑对账与告警。
5. 灰度验证：小流量验证路由与兜底是否真正生效。

适用边界与注意点

• 不同模型对 system prompt 和工具调用的行为不一致，需要适配层而非直接透传。
• 网关 key 不能当长期凭证，需设置过期与轮换策略。
• 兜底模型能力有限，降级后质量可能塌方，必须有监控与告警。
• AI 输出以官方为准，遵守各供应商服务条款与配额限制，切勿在前端硬编码网关凭证。