机器学习端到端流水线编排

解决什么问题

ML 流程的问题很少发生在单行训练代码上，更多出现在任务之间。数据延迟到达却没有告警，只在用户反馈模型变差时才发现；任务硬编码本地路径，换到容器化生产环境直接失败；XCom 返回 None 导致下游任务崩溃；实验参数散落在笔记本里，无法回答“哪个超参数组合真正有效”；模型上线后没有漂移监控，性能下降无人知晓。这个技能把流水线当作需要长期运维的系统，而不是一次性脚本。

核心能力

• 端到端编排：覆盖数据接入、数据校验、特征工程、模型训练、模型评估、生产部署、线上监控七个阶段。
• 编排工具选型：对比 Airflow、Kubeflow、MLflow、Prefect、Dagster 的适用场景，而不是强行绑定单一方案。
• 生产陷阱处理：针对任务静默失败、XCom 数据缺失、DAG 不显示、硬编码路径、任务卡死、缺少数据校验、实验无法复现等常见问题给出修复策略。
• 参考实现分层加载：复杂 DAG、Kubeflow 与 MLflow 集成、Prometheus 监控分别进入对应参考文件，避免主文件过度膨胀。

关键步骤

1. 定义清晰的流水线阶段，每个阶段独立、原子化，并具备幂等性。
2. 在数据进入训练前加入质量校验，防止损坏数据直接进入模型。
3. 使用 MLflow 记录参数、指标和模型版本，让实验可追溯。
4. 为任务配置告警、日志、重试和 execution_timeout，避免资源被卡死任务占用。
5. 部署后跟踪数据漂移和性能变化，形成反馈闭环。

适用边界与注意点

这个技能不自动安装依赖、修改系统权限、创建持久化任务或执行下载内容。涉及发送、发布、删除、付款、部署或其他外部写入时，会先展示目标与影响并取得明确确认。凭据仅用于用户指定的官方服务，不回显、不记录，也不转发。命令和代码默认是参考实现，只有在你明确要求执行且目标范围清楚时才会运行。