Venice 文本模型路由
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @user_3c6cb52e/venice-text-routing-lr-zd7n。
技能介绍
要解决的问题
当本地 Agent 收到一条 prompt 时,它实际要先回答一个路由问题:本地模型能不能处理?如果不能,该升级到哪个 Venice 文本模型——既要满足隐私等级、模态与能力要求,又要尽量便宜。没有这层逻辑,Agent 只能每次决策时直接请求 /models,既慢又浪费配额。
核心能力与关键步骤
这个技能编码了"调用哪个 Venice 文本模型"的决策逻辑:位于 venice-chat(调用面)之上,消费 venice-models(发现接口)。核心流程是快照驱动的:
- 读取
snapshots/text-routing.json作为路由依据 - 若文件缺失,或
snapshot_date超过 30 天,运行python scripts/refresh_routing.py重新生成 - 脚本依赖环境中的
VENICE_API_KEY,会同时重写snapshots/text-routing.json和routing-matrix.md - 首次安装后运行一次,之后约每月一次(CI 夜间任务也可以)
- 隐私等级阶梯:选择满足请求的最小限制档位,从 anonymized 到 private、TEE、E2EE
- 候选可来自 trait 快捷方式(如
default_reasoning、most_intelligent),也可手动筛选
适用边界与注意点
- 它只负责"选哪个模型",不负责实际聊天调用(那是
venice-chat),也不负责原始字段发现(那是venice-models) - 不要在每次路由决策时都请求
/models,否则快照机制形同虚设 - 隐私限制越严格,候选池越小,成本往往越高,因此应选满足需求的最小限制档位
使用场景
- 本地 Agent 收到超出能力范围的 prompt,需要挑一个最便宜且满足要求的 Venice 文本模型
- 构建本地优先的 Agent,遇到困难任务时自动升级到 Venice 处理
- 需要按隐私要求(匿名化、private、TEE、E2EE)为不同请求选择合适档位
- 要在 trait 快捷方式和手动筛选的候选模型之间做选择
适合人员
- 构建本地优先 Agent 的开发者,需要模型升级与隐私档位的可复用决策逻辑
- 维护多档隐私策略的团队,要按请求自动选择最小限制的隐私等级
- 为 Agent 编写路由层的工程师,想避免每次决策都请求 /models
- 需要快照机制管理模型清单的 CI 维护者,希望定期刷新 text-routing.json