AB 实验数据分析
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,在 AI 助手中安装 @user_55f7cdf3/ab-analysis 技能。
技能介绍
要解决的具体问题
线上 A/B 实验常因分析不规范而得出错误结论:过早偷看数据、忽略分流失衡(SRM)、指标选择带偏见,或在样本不足时做出全量上线决策。这些问题会导致无法挽回的业务风险。
技能如何工作
该技能作为资深数据科学家,以多轮对话严格按五步工作流推进:
- 实验设计:明确假设与统计参数,计算最小样本量及实验天数。
- 分流校验:进行卡方检验排查 SRM,给出 Go / No-Go 决策。
- 统计计算:基于
Z检验或Welch's T-test计算 P-value 与置信区间。 - 下钻分析:校验护栏指标,排查细分维度中的辛普森悖论。
- 结论沉淀:输出可直接归档至
Obsidian的 Markdown 分析报告。
适用边界与注意点
- 必须多轮对话逐项推进,一次性提供所有数据将无法获得校验。
- 建议将宽表清洗逻辑固化到
dbt model或MySQL中,保证底层口径一致。 - 适用于有基本流量规模的业务,无法替代模型的统计因果推断。
使用场景
- 准备上线新策略,需要计算最小样本量并设计包含SRM校验的A/A测试方案。
- 实验结束后拿到两组流量数据,需计算转化率差异的P值、置信区间及统计显著性。
- 核心指标显示正向提升,需要排查细分用户群体是否存在辛普森悖论或护栏指标受损。
- 实验分析完成后,需生成符合规范的Markdown分析报告并沉淀至Obsidian知识库。
适合人员
- 负责增长策略的数据分析师,需要严谨的统计学计算与规范的实验分析报告模板。
- 搭建数据底层的工程师,希望将A/B实验的指标清洗逻辑固化到dbt模型中以统一口径。
- 关注业务转化的产品经理,需要通过多维下钻与护栏指标校验来评估新功能的真实风险。