Agent Skills
返回列表
🤖

LLM 多提供商集成

AI Agent 更新于 2026.08.30

将以下提示词粘贴到你的 AI 对话框中:

请根据 https://skillhub.cn/install/skillhub.md,安装 @org-eyw2ohcx/sundial-org-awesome-openclaw-skills-llm。

技能介绍

要解决什么问题

Agent 或自研工具往往要同时接 OpenAI、Anthropic、Google Gemini,还要在开发机上调 Ollama 或 LM Studio。各家 API 形态、计费方式和流式协议并不一致,若在业务里逐家封装,对比模型效果和成本会变成重复劳动。

技能如何工作

本技能提供 多提供商大语言模型集成 的统一入口:

  • 统一对话界面:在同一套交互里切换提供商与模型,而不必为每家重写请求层。
  • 模型对比:在相近任务下并排或轮换使用不同模型,便于选型与回归。
  • Token 统计与费用估算:在调用前或调用后掌握用量,便于控制预算。
  • 流式响应:支持 streaming,适合长回答与实时展示。

支持的提供商包括 OpenAI(如 GPT-4、GPT-4o)、Anthropic(Claude)、Google(Gemini)以及本地 Ollama、LM Studio。

适用边界

它解决的是「多源 LLM 接入与用量可见性」,不是业务 prompt 工程或 RAG 管线本身。本地模型依赖你本机或内网已部署的运行环境;各云厂商的配额、定价与可用模型仍以官方为准。

使用场景

  • 在 OpenClaw Agent 里同一轮任务中先调 Claude 再调 GPT-4o,对照输出质量再做路由
  • 接入内网 Ollama 做敏感数据草稿,同时保留云上 Gemini 处理需要长上下文的请求
  • 上线前用统一界面跑同一套评测集,统计各模型 Token 与预估费用
  • 在助手产品里向用户展示流式生成,并在后台记录每次调用的用量

适合人员

  • 维护多模型 Agent 框架、需要统一封装各家 Chat API 的后端工程师
  • 做模型选型 POC、要在同一套 prompt 下对比 GPT-4o 与 Claude 的算法工程师
  • 负责 LLM 调用预算、需要按项目估算 Token 与费用的平台 SRE 或 FinOps
  • 在本地 LM Studio 调试权重、又要 occasional 调云端的独立工具作者