Tagged
变分推断
机器学习数学推导(十四):变分推断与变分EM
从一行恒等式出发推导变分推断:ELBO 分解、平均场假设、坐标上升 CAVI、变分 EM,以及让 VAE 得以训练的重参数化技巧。
PDE与机器学习(四):变分推断与Fokker-Planck方程
变分推断与 Langevin MCMC 在连续时间下是同一个 Fokker-Planck PDE:从 SDE 推导密度演化、KL 散度作为 Wasserstein 梯度流、SVGD 粒子方法、对数 Sobolev 不等式给出指数收敛、贝叶斯神经网络应用。