Tagged
最小二乘
机器学习数学推导（五）：线性回归
从代数（正规方程）、几何（正交投影）、概率（最大似然）三个角度完整推导线性回归，再延伸到 Ridge、Lasso、梯度下降与诊断方法，全部结论与 scikit-learn 互验。
正交性与投影 -- 当向量互不干扰
正交性是 GPS 定位、降噪耳机和 JPEG 压缩的数学基础。本章从正交向量与投影的几何直觉出发，一路讲到 Gram-Schmidt 正交化、QR 分解和最小二乘 -- 现代科学计算的脊梁。
从代数（正规方程）、几何（正交投影）、概率（最大似然）三个角度完整推导线性回归，再延伸到 Ridge、Lasso、梯度下降与诊断方法，全部结论与 scikit-learn 互验。
正交性是 GPS 定位、降噪耳机和 JPEG 压缩的数学基础。本章从正交向量与投影的几何直觉出发，一路讲到 Gram-Schmidt 正交化、QR 分解和最小二乘 -- 现代科学计算的脊梁。