推荐系统实战教练
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @kunlungrowth/recommenders。
技能介绍
要解决的问题
很多推荐项目一上来就讨论 LightGCN、Transformer,却跳过了最基础的一步:先建一个简单、可解释的基线。于是出现三类典型故障:
- 离线指标涨、线上没反应:把
Precision@k、NDCG当成线上效果,忽略二者的评价口径完全不同。 - 切分与指标各自出错:训练时引入时间泄露,再用错误的
k算指标,甚至出现NDCG > 1的假阳性。 - 没有基线就上复杂模型:新模型到底比
SAR/ALS好多少,没人说得清。
技能如何工作
本技能围绕三条硬原则展开:
- 基线优先:无论最终采用什么模型,先跑通
SAR/ALS,复杂模型只用来打基线并报告增量。 - 口径分离:离线指标与线上点击/留存分开评估,所有推荐问题都建立在正确切分之上。
- 信号驱动选型:根据数据形态做判断,例如只有隐式反馈时用
BPR或序列模型,强时效场景用GRU4Rec/VAE,冷启动用户优先加兜底策略。
具体流程如下:
- 先用
MovieLens 100k对齐官方quickstart的预期数字,确认链路可用。 - 线上表现异常时立即降级回
SAR基线,排查数据、打分、服务哪一环出了问题。 - 按「先查切分有无泄露,再查指标定义,最后怀疑模型」的顺序逐层定位,而不是反复调参。
- 记录每个模型相对基线的离线 Δ 与线上 Δ,作为后续决策依据。
适用边界
推荐效果受业务场景、数据质量和流量策略影响,本技能不承诺「上模型必涨」,也不提供刷量或作弊式优化手段。涉及用户隐私数据时,须遵循所在平台的合规与监管要求。
使用场景
- 推荐服务上线后线上点击无提升,需要快速降级到 SAR 基线,逐层验证数据与打分链路是否完整。
- 离线 NDCG 出现异常或指标值大于 1,需要排查指标定义、切分方式与阈值过滤是否出错。
- 产品方质疑推荐结果不可解释,需要改用 SAR/ItemKNN 相似度方案,输出每个推荐项的可读理由。
- 手上只有曝光与点击日志,需要按隐式反馈场景筛选 BPR 或序列模型,避免误用显式评分算法。
适合人员
- 推荐系统工程师,希望在上线复杂模型前先用 SAR/ALS 建立可解释基线,并验证相对增量。
- 数据分析师,需要在出现 NDCG 异常、离线与线上效果脱节时,快速定位指标定义与数据切分问题。
- 算法团队技术负责人,需要为团队制定可落地的模型对比计划,按 1.5 小时/晚或 2 周一轮的节奏推进。
- 产品运营或技术负责人,希望理解离线指标与线上留存的差异,在真实业务中判断模型是否值得上线。