Venice 文本嵌入

解决向量生成与检索难题

在构建检索增强生成（RAG）、相似度搜索或文本聚类系统时，获取高质量且稳定的文本向量是基础。Venice Embeddings 技能封装了 POST /api/v1/embeddings 接口，让你能够直接调用 Venice 提供的多种文本嵌入模型。它完全兼容 OpenAI SDK，只需将 baseURL 指向 https://api.venice.ai/api/v1 即可无缝接入现有工作流，无需重写大量底层请求逻辑。

核心能力与工作流

该技能的核心在于简化批量文本的向量化过程，并处理底层 API 的细节。

• 灵活的输入与输出：支持单条字符串或最多 2048 条字符串的批量输入。你可以通过 encoding_format 参数选择 float 或 base64（后者可将负载体积缩小约 4 倍，需客户端解码）。
• 模型选型与配置：通过 GET /models?type=embedding 获取当前可用模型列表。每个模型提供 embeddingDimensions、maxInputTokens 以及是否支持自定义维度（supportsCustomDimensions）等元数据。
• 批量处理与限流：建议保持单批次总 token 数不超过模型上下文限制。遇到 429 错误时，应采用指数退避并缩减批次大小。

适用边界与工程注意点

• 维度与归一化：dimensions 参数仅在模型明确支持自定义维度时有效，且跨模型的余弦距离不具备可比性，务必固定 model ID 并在升级时重新嵌入。此外，返回向量是否经过 L2 归一化取决于具体模型，需通过 Math.hypot(...v) ≈ 1 自行验证。
• 多模态限制：当前接口仅支持纯文本。若需处理图像，需先通过视觉聊天模型生成描述文本，再进行嵌入。
• 隐私与合规：Venice 在推理输入上采取“不训练、不保留”策略，但需注意 /embeddings 端点未公开类似部分聊天模型的端到端加密（E2EE）语义。