Probability and Statistics on Chen Kai Blog

概率与统计（八）：贝叶斯统计——先验、后验，以及频率学派为何争论不休

Fri, 30 Aug 2024 09:00:00 +0000

两位统计学家走进一家酒吧。一人说：“明天下雨的概率是 30%。”另一人反驳道：“概率指的是长期频率；而明天只发生一次，这种说法毫无意义。”第一个人回应：“它量化的是我对这一独特事件的不确定性。”两人就此争论了一整晚。

概率与统计（七）：假设检验——p 值、置信区间及其全部陷阱

Wed, 28 Aug 2024 09:00:00 +0000

你已经估计了一个参数，也量化了偏差-方差的权衡。现在，一个驱动绝大多数应用统计学的核心问题浮出水面：“这个效应是真实的，还是仅仅是噪声？”

假设检验正是回答这一问题的形式化框架，但它同时也是统计学中最常被误解的部分。大量论文专门探讨研究者如何误读 p 值、显著性阈值为何是任意设定的，以及多重检验问题如何推高假阳性发现率。对理论原理与常见陷阱的双重理解，对任何从事数据分析工作的人来说都至关重要。

概率与统计（六）：参数估计——极大似然估计、最大后验估计与偏差-方差分解

Mon, 26 Aug 2024 09:00:00 +0000

我们此前构建的所有内容——分布、期望、极限定理——都假设参数已知。高斯分布有均值 $\mu$ 和方差 $\sigma^2$ ；二项分布有 $$n$$ 次试验和成功概率 $$p$$ 。但在实际中，你并不知道 $\mu$ 或 $$p$$ ，只能通过观测数据来推断它们。

概率与统计（五）：大数定律与中心极限定理

Sat, 24 Aug 2024 09:00:00 +0000

若你必须从全部概率论中仅挑选两个定理，那必然是大数定律（LLN）与中心极限定理（CLT）——它们共同回答了两个根本性问题：LLN 断言“样本均值将收敛至真实均值”，CLT 则进一步指出“这些波动的精确形态”。若无这两个定理，民意调查将失去理论依据，临床试验结果无法令人信服，随机梯度下降（SGD）的收敛性也无从解释。

概率与统计（四）：联合分布、边缘化与独立性

Fri, 23 Aug 2024 09:00:00 +0000

到目前为止，我们研究过的每一种分布都只描述单个随机量：一次骰子投掷、一个等待时间、一次测量值。但真正有趣的问题往往涉及多个变量之间的关系：学习时长是否能预测考试成绩？不同行业的股票收益率是否相关？两个随机变量之和的行为如何？

概率与统计（三）：期望、方差与矩生成函数技巧

Wed, 21 Aug 2024 09:00:00 +0000

概率分布是对随机变量的完整描述——它告诉你每个可能结果出现的概率。但“完整”往往意味着繁琐。当有人问：“这座城市的人平均身高是多少？”，你不会递给他一个密度函数，而是说：“大约 170 厘米，上下浮动约 10 厘米。” 平均值与离散程度（spread）就已捕捉了实践中最核心的信息。

概率与统计（二）：随机变量及关键分布

Tue, 20 Aug 2024 09:00:00 +0000

在上一篇文章中，我们构建了概率论的公理化基础，你或许会觉得花了太多时间讨论集合与子集——事实的确如此。事件与 σ-代数这套机制虽必不可少，却略显枯燥，无法自然地支持均值计算、离散度度量或数据拟合。

概率与统计（一）：概率空间——为何需要公理化（但不过度深究）

Sun, 18 Aug 2024 09:00:00 +0000

每次查看天气预报、运行 A/B 测试或训练神经网络，其底层基础都可追溯至 1933 年安德雷·柯尔莫哥洛夫（Andrey Kolmogorov）建立的概率公理化框架——此前概率论只是赌徒与精算师手边的经验技巧，此后则成为与微积分、代数同等严谨的数学分支。