Tagged
正则化
机器学习数学推导（二十）：正则化与模型选择
系列收官：从偏差-方差分解出发，沿着 L1/L2 几何、Dropout 子网络采样、K 折交叉验证、AIC/BIC、VC 维到现代的双下降现象，回答机器学习理论中最深的一个问题——为什么模型能泛化。
机器学习数学推导（十二）：XGBoost 与 LightGBM
从 XGBoost 的二阶泰勒展开到 LightGBM 的直方图加速，本文系统推导两大工业级梯度提升框架——正则化目标函数、分裂增益闭式解、GOSS 单边采样与 EFB 互斥特征绑定的数学原理。