Dynamo Recipe 运行器
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @org-02qudk26/dynamo-recipe-runner。
技能介绍
要解决什么问题
在 Kubernetes 上跑 Dynamo 推理时,真正耗时的往往不是「写一份新 YAML」,而是:在 recipes/ 里找对矩阵项、核对 model-cache PVC、HF secret、GPU 与镜像 tag,再按 README 顺序 apply 并确认 OpenAI 兼容端点真的可用。本技能的目标是用最少来回,从用户意图落到一条可验证的 recipe 端点,且不新建指南内容、不凭空编清单。
技能如何工作
- 预检与选型:在
kubectl不可达时仍可选 recipe 并返回精确命令;可达时用scripts/recipe_tool.py list结合 recipes/README 矩阵,优先选已有 recipe。 - 验证与最小修补:读取 README、
model-cache、deploy.yaml(及可选perf.yaml),用recipe_tool.py validate在 apply 前处理阻塞项(storageClassName、镜像 tag、模型路径、GPU requests/limits、DYN_ROUTER_MODE等),只改本次运行必需字段,不把 HF token 写入文件或日志。 - 部署与冒烟:按 recipe README 或默认序列部署,等待前端与 worker 就绪;端口转发后检查
/v1/models与一次 chat 补全;若已装dynamo-router-starter可优先用其健康检查脚本。
边界与注意
- 仅操作 ai-dynamo/dynamo 已有
recipes/树,不编写全新清单(除非用户明确要求)。 - apply 需要目标命名空间的 kubectl 权限;多节点 disagg 传输正确性不在范围内,部署后可用
dynamo-interconnect-check。 - 冒烟测试刻意保持最小;深度 router/端点覆盖请用 dynamo-router-starter,持续异常可切 dynamo-troubleshoot。
使用场景
- 已在 ai-dynamo 仓库选好 vLLM 或 SGLang recipe,需要在目标命名空间补齐 storageClass 与 HF secret 后 apply 并验证 `/v1/models`
- 集群暂时不可达,但仍要根据 GPU 型号与框架从 recipes 矩阵选出路径,并拿到可手工执行的完整部署命令
- Worker 出现 ImagePullBackOff 或 model-cache Pod 长期 Pending,要在不改整份 YAML 的前提下只修补镜像 tag 与 PVC 阻塞项
- 新环境首次跑某条 recipe,希望 apply 前用 validate 扫一遍 GPU 数量、router 模式与前端服务名是否匹配集群
适合人员
- 负责在 K8s 上落地 Dynamo 端点、但不想从零写清单的平台/推理基础设施工程师
- 日常维护 model-cache PVC 与 `hf-token-secret`、按 recipes README 顺序发布推理服务的集群运维
- 需要在发布窗口内对指定 recipe 做最小改动部署,并用一次 OpenAI 兼容 chat 补全做冒烟的 MLOps 值班同学
- 能读 ai-dynamo/dynamo 的 recipes 树,却总在存储类、镜像 tag、GPU limits 上踩坑的 GPU 集群管理员