Agent Skills
返回列表
🔒

Dynamo Recipe 运行器

IT 运维与安全 更新于 2026.08.29

将以下提示词粘贴到你的 AI 对话框中:

请根据 https://skillhub.cn/install/skillhub.md,安装 @org-02qudk26/dynamo-recipe-runner。

技能介绍

要解决什么问题

在 Kubernetes 上跑 Dynamo 推理时,真正耗时的往往不是「写一份新 YAML」,而是:在 recipes/ 里找对矩阵项、核对 model-cache PVC、HF secret、GPU 与镜像 tag,再按 README 顺序 apply 并确认 OpenAI 兼容端点真的可用。本技能的目标是用最少来回,从用户意图落到一条可验证的 recipe 端点,且不新建指南内容、不凭空编清单。

技能如何工作

  1. 预检与选型:在 kubectl 不可达时仍可选 recipe 并返回精确命令;可达时用 scripts/recipe_tool.py list 结合 recipes/README 矩阵,优先选已有 recipe。
  2. 验证与最小修补:读取 README、model-cache、deploy.yaml(及可选 perf.yaml),用 recipe_tool.py validate 在 apply 前处理阻塞项(storageClassName、镜像 tag、模型路径、GPU requests/limits、DYN_ROUTER_MODE 等),只改本次运行必需字段,不把 HF token 写入文件或日志。
  3. 部署与冒烟:按 recipe README 或默认序列部署,等待前端与 worker 就绪;端口转发后检查 /v1/models 与一次 chat 补全;若已装 dynamo-router-starter 可优先用其健康检查脚本。

边界与注意

  • 仅操作 ai-dynamo/dynamo 已有 recipes/ 树,不编写全新清单(除非用户明确要求)。
  • apply 需要目标命名空间的 kubectl 权限;多节点 disagg 传输正确性不在范围内,部署后可用 dynamo-interconnect-check。
  • 冒烟测试刻意保持最小;深度 router/端点覆盖请用 dynamo-router-starter,持续异常可切 dynamo-troubleshoot。

使用场景

  • 已在 ai-dynamo 仓库选好 vLLM 或 SGLang recipe,需要在目标命名空间补齐 storageClass 与 HF secret 后 apply 并验证 `/v1/models`
  • 集群暂时不可达,但仍要根据 GPU 型号与框架从 recipes 矩阵选出路径,并拿到可手工执行的完整部署命令
  • Worker 出现 ImagePullBackOff 或 model-cache Pod 长期 Pending,要在不改整份 YAML 的前提下只修补镜像 tag 与 PVC 阻塞项
  • 新环境首次跑某条 recipe,希望 apply 前用 validate 扫一遍 GPU 数量、router 模式与前端服务名是否匹配集群

适合人员

  • 负责在 K8s 上落地 Dynamo 端点、但不想从零写清单的平台/推理基础设施工程师
  • 日常维护 model-cache PVC 与 `hf-token-secret`、按 recipes README 顺序发布推理服务的集群运维
  • 需要在发布窗口内对指定 recipe 做最小改动部署,并用一次 OpenAI 兼容 chat 补全做冒烟的 MLOps 值班同学
  • 能读 ai-dynamo/dynamo 的 recipes 树,却总在存储类、镜像 tag、GPU limits 上踩坑的 GPU 集群管理员