<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>Mean-Field on Chen Kai Blog</title><link>https://www.chenk.top/zh/tags/mean-field/</link><description>Recent content in Mean-Field on Chen Kai Blog</description><generator>Hugo</generator><language>zh-CN</language><lastBuildDate>Mon, 02 Feb 2026 09:00:00 +0000</lastBuildDate><atom:link href="https://www.chenk.top/zh/tags/mean-field/index.xml" rel="self" type="application/rss+xml"/><item><title>机器学习数学推导（十四）：变分推断与变分 EM</title><link>https://www.chenk.top/zh/ml-math-derivations/14-%E5%8F%98%E5%88%86%E6%8E%A8%E6%96%AD%E4%B8%8E%E5%8F%98%E5%88%86em/</link><pubDate>Mon, 02 Feb 2026 09:00:00 +0000</pubDate><guid>https://www.chenk.top/zh/ml-math-derivations/14-%E5%8F%98%E5%88%86%E6%8E%A8%E6%96%AD%E4%B8%8E%E5%8F%98%E5%88%86em/</guid><description>&lt;p>后验 &lt;span class="math-inline">$p(\mathbf{z}\mid\mathbf{x})$&lt;/span>
 无法直接计算时，我们面临两条路径。&lt;strong>采样方法&lt;/strong>（MCMC）通过构造一条马尔可夫链，使其平稳分布恰好等于目标后验——理论上最终能精确逼近，但收敛缓慢且诊断困难。&lt;strong>变分推断&lt;/strong>（VI）则另辟蹊径：先选定一个结构简单的分布族 &lt;span class="math-inline">$\mathcal{Q}$&lt;/span>
，再从中找出最接近真实后验的那个成员 &lt;span class="math-inline">$q^\star$&lt;/span>
。如此一来，推断问题就转化为优化问题——训练神经网络的那一套工具，现在也能用来拟合贝叶斯模型了。&lt;/p></description></item><item><title>偏微分方程与机器学习（三）：变分原理与优化</title><link>https://www.chenk.top/zh/pde-ml/03-%E5%8F%98%E5%88%86%E5%8E%9F%E7%90%86%E4%B8%8E%E4%BC%98%E5%8C%96/</link><pubDate>Fri, 31 May 2024 09:00:00 +0000</pubDate><guid>https://www.chenk.top/zh/pde-ml/03-%E5%8F%98%E5%88%86%E5%8E%9F%E7%90%86%E4%B8%8E%E4%BC%98%E5%8C%96/</guid><description>&lt;p>训练神经网络的本质是什么？当我们在高维参数空间中运行梯度下降时，背后是否存在某种更深刻的连续时间动力学？当网络宽度趋于无穷时，离散的参数更新是否会收敛到某个优雅的偏微分方程？这些问题的答案，正位于变分法、最优传输与 PDE 理论的交汇处。&lt;/p></description></item></channel></rss>