Lynkr 通用 LLM 网关
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @user_15292d5a/yjkj-lynkr。
技能介绍
问题背景
多模型编程助手往往把每一轮请求都打到同一档云端大模型上:简单补全与多步 Agent 工具链共用一条路由,既浪费 Token,也在某家 API 抖动时拖垮整条链路。你还需要在 OpenAI 兼容客户端里手工切换 provider:model,很难按「任务难度 × 单价 × 可用性」做决策。
工作机制
Lynkr 在本地暴露 OpenAI 兼容 的 http://localhost:8081/v1,在转发前做 五阶段复杂度打分(0–100):结合 Token 量、工具调用、代码模式、领域关键词,以及 Graphify 的结构分析(god node、社区凝聚、blast radius)。分数映射到 SIMPLE / MEDIUM / COMPLEX / REASONING 四档,每档绑定可配置的 provider:model。
若检测到 Agentic 工作流(单次 / 工具链 / 迭代 / 自主),会自动升档。路由层还会在满足档位的前提下选 更便宜的提供商,并配合熔断与半开探测做 故障转移。
Token 侧是另一条主线:按请求类型筛工具、Distill 压缩(Jaccard、delta、块去重)、Code Mode(用 4 个 meta-tool 替代上百个 MCP 定义)、历史滑动窗口与 SHA-256 LRU 提示缓存;可选 Headroom sidecar 进一步压 payload。v8.0 起提供 SQLite 路由遥测(质量分、P50/P95/P99)、POST /v1/admin/reload 热重载,以及 Titans 风格的 长期记忆(惊奇度存储、衰减、FTS5 语义检索与自动注入)。响应头会带回 X-Lynkr-Tier、X-Lynkr-Complexity-Score、X-Lynkr-Agentic 等,便于你对照 /v1/routing/stats 做调参。
适用边界
- 你需要自行注册并维护 12+ 提供商(Ollama、Anthropic、OpenRouter、Bedrock 等)的密钥与模型列表;Lynkr 是网关与策略层,不替代各家账号与配额。
- 复杂度与 Graphify 分析依赖请求内容与代码结构,误分档仍可能发生,应结合
GET /v1/routing/accuracy与遥测做校准。 - OpenClaw 等集成需单独配置 tier 路由 与 model 名回写;未启用时客户端看到的
auto不会自动展开为实际后端模型。
使用场景
- 在 Cursor 等工具里把 Base URL 指向本地网关,让简单补全走 Ollama、复杂推理自动升到云端 Claude/GPT。
- Agent 循环调用大量 MCP 工具导致上下文暴涨时,启用 Code Mode 用 4 个 meta-tool 替代上百条工具定义。
- 单一云厂商限流或宕机时,依赖熔断与半开恢复把编程请求切到备用提供商且尽量选同档位最低价。
- 接入 OpenClaw 后按 SIMPLE/MEDIUM/COMPLEX/REASONING 配好各档模型,并在响应里回写实际 `provider:model` 便于审计。
适合人员
- 同时维护 Ollama 与多家云 API 密钥、希望 IDE 只连一个兼容端点的个人或平台工程师
- 跑多步自主编码 Agent、需要按工具链复杂度自动升档并控制单次会话 Token 的 AI 应用维护者
- 负责本地+混合云推理链路、要用 Prometheus 与健康检查监控网关可用性的运维或 SRE
- 会根据 `/v1/routing/accuracy` 与 SQLite 遥测调权重、校准四档路由策略的网关配置负责人