数据质量生产框架
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @org-02qudk26/data-quality-frameworks。
技能介绍
要解决什么问题
数据管道一旦进入生产,「能跑」不等于「可信」:字段漂移、空值激增、主键重复往往在下游报表或模型训练时才暴露。单靠事后排查成本高,而各团队对「什么叫合格数据」也缺少可执行的共同语言。
技能如何帮你落地
本技能围绕 Great Expectations、dbt 测试 与 数据契约 三种常见生产模式,把质量检查嵌进管道而不是堆在文档里:
- 识别范围:先锁定关键数据集,并明确完整性、唯一性、分布、时效等质量维度。
- 定义规则:用期望(Expectations)、dbt 测试与契约条款把「合格」写成可版本化的规则。
- 自动化验证:在 CI/CD 中跑验证,并配合定期巡检,避免只在本地手工点检。
- 运维闭环:配置告警、明确负责人与修复步骤,让失败有处置路径而非 silent fail。
更细的框架说明、模板与示例见技能内的 resources/implementation-playbook.md。
适用边界与注意点
- 数据源尚未定义或不可用、或你无法改动验证规则与 schema 时,不宜强行套用本技能。
- 任务与数据质量、契约无关时,应选用其他技能。
- 安全:避免在无回退方案时让验证结果阻塞关键管道;验证输出中需妥善处理敏感字段。
使用场景
- 在 Airflow 或 Spark 管道上线前,为关键表编写 Great Expectations 套件并在 CI 里阻断坏数据
- 为 dbt 项目补齐 schema、关系与自定义测试,形成可随模型版本一起发布的质量门禁
- 数据平台与业务方对齐消费表字段含义与 SLA,把条款写成可自动校验的数据契约
- 生产环境定期跑质量指标并配置告警,出现空值率或主键重复异常时按 playbook 指派修复
适合人员
- 维护数仓 dbt 模型的数据工程师,需要在模型变更时同步扩展测试而非事后补测
- 负责数据平台管道的平台工程师,要把 GE 或契约校验嵌入 CI/CD 而非仅依赖人工抽检
- 跨团队交付数据集的产品或分析负责人,希望用契约把「可用数据」的定义写成可执行规则
- SRE 或数据可靠性工程师,需为关键数据集定义维度、告警与负责人并避免误阻塞核心链路