标签
Matrix Calculus
Jan 21, 2026
机器学习数学推导
24 分钟机器学习数学推导（二）：线性代数与矩阵论
机器学习的语言是线性代数。本文从第一性原理推导向量空间、特征值分解、SVD 与矩阵求导——ML 优化所需的全部工具。
Mar 12, 2025
线性代数
24 分钟线性代数（十一）：矩阵微积分与优化——从梯度到反向传播
调淋浴水温就是一个最小号的神经网络训练：根据误差去调一个参数。矩阵微积分把这件事推广到上亿个参数，优化算法则是把它做下去的引擎。本章从标量梯度讲到 Jacobian、Hessian、反向传播、凸优化与 Adam。