中心极限定理 · 为什么世界到处是钟形

一句话定理

中心极限定理（Central Limit Theorem，CLT）：

从任意分布（均值 μ、方差 σ²）独立抽 N 个数取平均，当 N 足够大时，样本均值 $\bar{X}$ 服从 $N(\mu, \sigma^2 / N)$。

不管基底分布是均匀、骰子、双峰，还是任意离谱的形状 —— 取平均之后，几乎总是钟形（正态）。

为什么所有量都收敛到钟形

这听起来像魔法。但仔细想想，平均这个动作天然有两个效果：

1. 抵消极端：把 N 个数加起来，极大值往往被极小值抵消，极少数特殊情况能”拉偏”整体
2. 维度独立累加：每次采样独立 → 总和的方差 = 各方差之和（线性叠加）

把这两点严格化，就得出”和 ~ 正态”的结论。证明用特征函数 / 矩生成函数即可（高考不考但概率统计研究生课会推）。

试这五种基底

均匀 [0, 1]：N=1 时是矩形，N=4 已经接近钟形，N=16 几乎完美。

指数分布：极度右偏（尾巴长长往右拖）。N=1 时直方图是单调下降；N=4 时开始变钟形但仍偏；N=32 时几乎对称了。注意它收敛得比均匀分布慢，因为偏度更大。

双峰分布：两座小山。N=1 时两个峰清晰可见；N=4 时峰开始模糊；N=16 时已经融合成一个峰。CLT 不在乎你长什么样。

右偏（min of 2 uniforms）：另一个偏态例子。同样：偏度被平均”吃掉”。

骰子 6：离散分布。N=1 时是 6 个等高的柱子；N=2 时变成三角形（2 到 12，求和分布）；N=4 时已经接近钟形。这也是为什么人体身高 / 测量误差 / 自然界的随机量大多服从正态 —— 它们都是大量微小独立因素的”平均效果”。

标准差按 1/√N 缩

CLT 还告诉我们一个量化结论：样本均值的标准差 = σ/√N。

这意味着：

• 想把估计误差缩小 10 倍，需要 100 倍的样本
• 民意调查 N=1000 的标准误约是 N=100 的 √10 ≈ 3.16 倍小
• 大数定律 + 1/√N 衰减 = “现代统计学的两条腿”

试一下：把 N 从 1 拉到 64，看右边图的宽度怎么缩。再看右下角的”实测标准差”和”理论 σ/√N” —— 两者应该几乎相等。

这套数学的力量

中心极限定理是统计学的地基，几乎所有”标准误差”、“置信区间”、“假设检验”都直接或间接依赖它：

• 民意调查：抽 1000 人估计全国意见，误差 ≈ σ/√1000
• A/B 测试：实验组和对照组的均值差也是”均值”，所以服从近似正态 → t 检验、p 值
• 金融：组合收益是众多资产收益的加权和 → 接近正态（前提是基础假设成立）
• 物理测量：误差被假定为正态，因为它们是”许多小误差的和”
• 量子统计 / 玻尔兹曼分布：宏观量是微观随机量的平均
• 机器学习：训练损失是 batch 内 N 个样本损失的均值；梯度估计也是

CLT 失败的两种情况

不是所有分布都”乖乖”收敛到正态：

1. 方差不存在（重尾）：例如柯西分布（Cauchy），它的方差是无穷大。CLT 不适用。这种情况要用”稳定分布”理论。这就是为什么金融模型常被批评 —— 真实股价的”黑天鹅”事件比正态分布预测的多得多。
2. 样本之间不独立：CLT 要求 i.i.d.（独立同分布）。如果有强相关性（连续时间序列），收敛更慢或不收敛。

一个被低估的细节

CLT 不只是”和趋近正态”。更强的版本（Berry-Esseen 定理）给出收敛速度：与基底分布的第三阶矩（偏度）成反比。

这解释了我们的观察：

• 均匀分布偏度 0 → N=4 就够
• 指数分布偏度 = 2 → N=16 还不够好
• 骰子偏度 0 → N=4 已经很正态了

教科书常说 “N ≥ 30 就接近正态” —— 这是基于偏度不太大的假设。重偏的分布需要更大的 N，没有”普世够大”这种说法。