Agent Skills
返回列表
📊

数据质量生产框架

数据分析 更新于 2026.08.29

将以下提示词粘贴到你的 AI 对话框中:

请根据 https://skillhub.cn/install/skillhub.md,安装 @org-02qudk26/data-quality-frameworks。

技能介绍

要解决什么问题

数据管道一旦进入生产,「能跑」不等于「可信」:字段漂移、空值激增、主键重复往往在下游报表或模型训练时才暴露。单靠事后排查成本高,而各团队对「什么叫合格数据」也缺少可执行的共同语言。

技能如何帮你落地

本技能围绕 Great Expectations、dbt 测试 与 数据契约 三种常见生产模式,把质量检查嵌进管道而不是堆在文档里:

  • 识别范围:先锁定关键数据集,并明确完整性、唯一性、分布、时效等质量维度。
  • 定义规则:用期望(Expectations)、dbt 测试与契约条款把「合格」写成可版本化的规则。
  • 自动化验证:在 CI/CD 中跑验证,并配合定期巡检,避免只在本地手工点检。
  • 运维闭环:配置告警、明确负责人与修复步骤,让失败有处置路径而非 silent fail。

更细的框架说明、模板与示例见技能内的 resources/implementation-playbook.md。

适用边界与注意点

  • 数据源尚未定义或不可用、或你无法改动验证规则与 schema 时,不宜强行套用本技能。
  • 任务与数据质量、契约无关时,应选用其他技能。
  • 安全:避免在无回退方案时让验证结果阻塞关键管道;验证输出中需妥善处理敏感字段。

使用场景

  • 在 Airflow 或 Spark 管道上线前,为关键表编写 Great Expectations 套件并在 CI 里阻断坏数据
  • 为 dbt 项目补齐 schema、关系与自定义测试,形成可随模型版本一起发布的质量门禁
  • 数据平台与业务方对齐消费表字段含义与 SLA,把条款写成可自动校验的数据契约
  • 生产环境定期跑质量指标并配置告警,出现空值率或主键重复异常时按 playbook 指派修复

适合人员

  • 维护数仓 dbt 模型的数据工程师,需要在模型变更时同步扩展测试而非事后补测
  • 负责数据平台管道的平台工程师,要把 GE 或契约校验嵌入 CI/CD 而非仅依赖人工抽检
  • 跨团队交付数据集的产品或分析负责人,希望用契约把「可用数据」的定义写成可执行规则
  • SRE 或数据可靠性工程师,需为关键数据集定义维度、告警与负责人并避免误阻塞核心链路