Tagged

PCA

Feb 5, 2026 ML Math Derivations 13 min read

机器学习数学推导(十七):降维与主成分分析

高维空间对基于距离的算法极其不友好。本文从最大方差与最小重构误差两个等价视角推导 PCA,并依次扩展到核 PCA、LDA、t-SNE 与 ICA——配套图示直接展示同一份数据上各方法到底干了什么。

Apr 9, 2025 Linear Algebra 18 min read

机器学习中的线性代数 -- 从 PCA 到推荐系统

线性代数是机器学习的'母语'。本章深入 PCA、LDA、SVM 核方法、矩阵分解推荐系统、线性回归的矩阵形式,以及神经网络中的线性层与注意力机制背后的线性代数原理。

Feb 26, 2025 Linear Algebra 11 min read

奇异值分解 SVD

SVD 被誉为线性代数的皇冠明珠:它能分解任意矩阵,不限于方阵或对称矩阵。从图像压缩到推荐系统,从人脸识别到基因分析,SVD 无处不在。