Agent Skills
返回列表
🤖

vLLM

AI Agent 更新于 2026.08.30

将以下提示词粘贴到你的 AI 对话框中:

请根据 https://skillhub.cn/install/skillhub.md,将 @user_3c6cb52e/vllm-png 安装到你的 AI 助手中。

技能介绍

要解决什么问题

在 AI Agent 工作流里,模型推理调用、请求编排和输出解析往往散落在各自的脚本中,团队要么重复编写 SDK 调用代码,要么把不兼容的运行方式硬塞进同一条流水线。这个技能集合聚焦 vLLM 这一推理后端,把与它相关的能力收拢成可复用的子技能文件,让 Agent 在兼容的宿主环境中按统一方式调用,而不是每次都从零实现。

技能如何工作

技能集合只包含 1 个子技能文件,文件结构保持轻量。安装后,Agent 宿主按 SKILL.md 声明加载该技能,并在会话中按技能内容执行与 vLLM 相关的操作。关键步骤包括:

  • 解析用户请求中与 vLLM 相关的参数和上下文
  • 调用子技能文件中定义的流程,处理推理输入与输出
  • 将结果以 Agent 可继续使用的格式返回,供后续步骤串联

它同时声明兼容 Claude Code、Codex、Hermes Agent、OpenClaw、QClaw、WorkBuddy 等平台,调用方式在这些宿主间保持一致。

适用边界与注意点

这个技能解决的是「把 vLLM 能力接入 Agent 工作流」这一层问题,不负责模型权重分发、GPU 集群调度或推理性能优化本身。运行时仍需宿主提供可用的 vLLM 服务或本地环境;如果推理服务未启动、鉴权失败或请求格式超出技能声明范围,Agent 只能返回错误,不会自动重试或降级。

另外,当前技能集合仅包含一个子技能文件,功能边界有限。适合把它作为推理链路中的调用入口,而不是完整的模型管理方案。接入前建议确认所用宿主在兼容列表中,并验证 vLLM 服务端版本与技能预期一致。

使用场景

  • 在 Claude Code 里开发 Agent 工作流时,需要把用户请求交给本地 vLLM 服务完成推理,并拿回可供后续步骤使用的结构化结果。
  • 团队在 Codex 中编排推理任务,希望按统一方式调用 vLLM,避免在每个脚本里重复编写 SDK 调用与输出解析代码。
  • 在 Hermes Agent 里搭建推理链路时,需要按子技能文件定义的流程处理输入与输出,让推理步骤能和前后环节串联。
  • 要把同一套 vLLM 调用方式同时跑在 OpenClaw、QClaw、WorkBuddy 等多个宿主上,保证各平台行为一致。

适合人员

  • 在 Claude Code、Codex 等兼容宿主中开发 Agent 应用的工程师,想快速接入 vLLM 推理能力而不想重复造轮子。
  • 维护多平台 Agent 工作流的技术负责人,需要一套 vLLM 调用方式在 Claude Code、Hermes Agent、WorkBuddy 等宿主间保持一致。
  • 给内部团队搭建推理链路的工程师,要把 vLLM 服务封装成可复用的子技能文件,供 Agent 按统一流程调用。
  • 正在评估 Agent 宿主兼容性的技术选型人员,需要确认 vLLM 技能能否在 OpenClaw、QClaw 等平台上直接运行。