标签
Gradient Descent
Jan 25, 2026
机器学习数学推导
24 分钟机器学习数学推导（六）：逻辑回归与分类
从 Sigmoid 到 Softmax，完整推导逻辑回归——交叉熵损失、梯度计算、正则化与多分类扩展，附 Python 验证。
Jan 24, 2026
机器学习数学推导
36 分钟机器学习数学推导（五）：线性回归
从代数（正规方程）、几何（正交投影）、概率（最大似然）三个角度完整推导线性回归，再延伸到 Ridge、Lasso、梯度下降与诊断方法，全部结论与 scikit-learn 互验。
Jan 23, 2026
机器学习数学推导
34 分钟机器学习数学推导（四）：凸优化理论
从凸集与凸函数出发，严格推导梯度下降、牛顿法、BFGS、KKT 条件与 ADMM——机器学习优化的数学基石。