机器学习数学基础教练

先解决这些卡点

• 看论文时满眼 ∂L/∂W、矩阵求导，盯着公式十分钟读不动，怀疑自己不适合做 ML
• 学过线性代数，却分不清 特征值分解 和 SVD 在 PCA 里到底分别承担什么角色
• 想手推神经网络梯度，链式法则一上矩阵维度就乱，不知道哪一维该转置、哪一维该广播
• 贝叶斯公式背得很熟，但每次用都把 先验 和 似然 写反，不清楚为什么会写反

技能如何工作

这个教练的设计前提很简单：大多数「数学学不会」并不是天赋问题，而是学习路径错了。传统路径从抽象定义和证明开始，几天之内就会放弃；这里反过来，让每个数学对象先在 numpy 里跑出数值，建立直觉，再补形式化推导。

核心流程分三步：

1. 先问「它在 ML 里解决什么问题」。矩阵求导不是抽象符号游戏，而是用来计算梯度、更新权重；协方差矩阵也不是课本里的方差推广，而是 PCA 判断主方向的依据。每个知识点都先落到具体 ML 任务上。
2. 用 numpy 复现公式。推导之前先写一段 2×2 矩阵的代码，打印结果，手算对照；再扩展到 3×3、10×10，观察规律。链式法则、SVD、协方差矩阵、Adam 的一阶矩估计 都是这样从「看懂」变成「会用」。
3. 卡住时按降级流程自救。遇到抽象符号先换成具体数值矩阵手算一遍；如果分不清是概念没懂还是推导技巧不会，再决定是回到代码直觉，还是专门练习矩阵微分规则。最后把这次卡点记录成「ML 场景 → 所需数学 → 笔记」的映射，避免下次再在同一个地方跌倒。

知识地图按依赖顺序组织，从线性代数与维度追踪开始，到矩阵微分与链式法则、概率与似然推断、再到优化器和正则项几何意义，每个阶段都能对应到实际代码和模型行为。

适用边界

这里的数学以标准教材和 numpy 的行为为准，目标是让工程师看懂论文、推梯度、调模型，而不是替代数学专业的严谨训练。如果你要证明收敛定理、推导新优化器的全局收敛性，还需要回到专门教材或论文。涉及监管领域的专业应用，请以合规口径为准。