Agent Skills
返回列表
🤖

Venice 文本模型路由

AI Agent 更新于 2026.08.30

将以下提示词粘贴到你的 AI 对话框中：

请根据 https://skillhub.cn/install/skillhub.md，安装 @user_3c6cb52e/venice-text-routing-d3ep。

技能介绍

要解决的问题

本地 agent 收到一条 prompt 后，要回答"该不该把这个请求转给 Venice，以及转给哪个文本模型"。难点不在调用本身——venice-chat 已经覆盖了发送请求的链路——而在于路由层要在多个维度之间权衡：隐私要求有多严格（匿名、私有、TEE、E2EE 哪个够用）、prompt 需要哪些能力（视觉、音频、工具调用、JSON 输出、长上下文）、以及预算能承受哪个成本档位。模型目录每月都在变，硬编码模型 ID 很快会失效。

技能如何工作

决策流程分七步。首先读取 snapshots/text-routing.json 快照；若文件缺失或 snapshot_date 超过 30 天，运行 python scripts/refresh_routing.py 从 GET /models?type=text 和 GET /models/traits?type=text 重新生成，而不是每次决策都请求 API。接着过滤掉 model_spec.beta 或 model_spec.offline 的条目，以及 regionRestrictions 不覆盖调用方地区的候选。然后按成本档位选能容纳候选的最小桶，再用能力过滤器（supportsFunctionCalling、supportsVision、supportsResponseSchema 等）收窄范围。隐私层级按阶梯从最宽松的 Anonymized 逐级收紧到 E2EE，选满足请求的最宽松档——越严的层级候选池越小、成本越高。最后，若命中 frontier override（prompt 要求最强智能或上下文超过 100K token），直接解析 traits 快捷方式，否则选最便宜的幸存者。

适用边界与注意点

  • 不要把 snapshots/text-routing.json 当成实时目录；30 天是下限，遇到 404 就该提前刷新
  • privacy: "private" 与 uncensored 是两条独立轴线，不能混为一谈
  • E2EE 模型不支持 /responses，加密请求必须路由到 /chat/completions
  • trait 快捷方式按类型区分，传参时务必带 ?type=text，不能复用 image traits
  • 音频输入只接受 base64，不接受 URL
  • 单图视觉模型每轮会丢弃旧图像，多图需链式传入最后一条用户消息

使用场景

  • 本地 agent 收到普通问题，按最便宜档位路由到匿名化 Venice 文本模型
  • 处理含用户数据的提示词时，筛选 self-hosted 且零保留的私有模型
  • 分析含个人健康信息的数据前，把模型锁定到 e2ee- 前缀的端到端加密模型
  • 构建带视觉输入的 agent，用 supportsVision 过滤器挑出支持图像的模型

适合人员

  • 构建本地优先 agent 的开发者，需要运行时判断何时升级到 Venice 处理难题
  • 维护多租户模型网关的后端工程师，要在隐私层级与成本之间做自动取舍
  • 为 agent 添加多模态能力的开发者，需要按 supportsVision 等标志筛选候选模型
  • 处理合规数据的团队工程师，必须把模型路由到 TEE 或 E2EE 以满足审计要求