Math-00.数学分布-20.正态分布

正态分布(Normal distribution),又称高斯分布(Gaussian distribution),是连续概率论中最重要的分布:中心极限定理保证大量独立随机变量和趋近正态,是 Z 检验、线性回归噪声假设与测量误差模型的默认参考。

段末注释CLT(central limit theorem)为中心极限定理;独立同分布随机变量和在大样本下近似正态。

读前说明:连续分布,下文给出 PDF(probability density function,概率密度函数),无 PMF。系列:00 规划


1. 产生背景与直观

图 1 正态直观

高斯在研究天文观测误差时发现:大量微小独立误差叠加 → 钟形曲线。直觉:

  • 酶活重复测定围绕真值的波动
  • 大量独立噪声之和
  • 样本均值在大 $n$ 下的分布(CLT)

2. 定义与参数

$X \sim \mathcal{N}(\mu, \sigma^2)$:

要素 内容
支撑集 $(-\infty, +\infty)$
参数 $\mu \in \mathbb{R}$(位置/均值),$\sigma > 0$(尺度/标准差)

标准正态:$Z \sim \mathcal{N}(0, 1)$。


3. PDF 与 CDF

图 2 PDF 钟形曲线

3.1 PDF

$$
f(x) = \frac{1}{\sqrt{2\pi},\sigma} \exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right)
$$

3.2 CDF

$$
F(x) = \Phi\left(\frac{x-\mu}{\sigma}\right)
$$

$\Phi$ 为标准正态 CDF。分位数:$x_p = \mu + \sigma \cdot \Phi^{-1}(p)$。参见 百分位数

经验法则:约 68% 落在 $\mu \pm \sigma$,95% 在 $\mu \pm 2\sigma$,99.7% 在 $\mu \pm 3\sigma$。


4. 数字特征

期望 $\mu$
方差 $\sigma^2$
偏度 $0$
超额峰度 $0$
矩母函数 $M(t) = \exp(\mu t + \frac{1}{2}\sigma^2 t^2)$

5. 与其他分布的关系

关系 说明
CLT i.i.d. 均值 $\bar{X}_n \approx \mathcal{N}(\mu, \sigma^2/n)$ → 31.抽样
多元推广 $\mathbf{X} \sim \mathcal{N}_d(\boldsymbol{\mu},\boldsymbol{\Sigma})$ → 30.多元正态
$\chi^2$ $n$ 个标准正态平方和 $\sim \chi^2_n$
t 分布 $Z/\sqrt{V/\nu}$,$Z \sim \mathcal{N}(0,1)$ → 27.t
对数正态 若 $\log X \sim \mathcal{N}$,则 $X$ 右偏 → 规划 21
Poisson 极限 $\lambda$ 大时 Poisson $\approx$ Normal
线性回归 $\varepsilon \sim \mathcal{N}(0,\sigma^2)$ → 高斯似然 = MSE

6. 前提假设

作为数据生成模型:

假设 含义 违背时
连续对称 取值连续,密度关于均值对称 右偏正值 → 对数正态
钟形单峰 中间高、两端低 多峰/厚尾 → 混合或 $t$
有限方差 $\mathrm{Var}(X)<\infty$ 厚尾极端 → 稳定分布等

作为推断参考(CLT / 回归残差):

假设 含义 违背时
i.i.d. 或 CLT 条件 样本独立,或和/均值来自大量弱相关因子 小样本偏态 → t
同方差(回归) 残差方差恒定 异方差 → 加权/稳健方法

段末注释CLT(central limit theorem,中心极限定理)说明独立同分布和在大样本下趋近正态。


7. 适用场景

图 3 适用场景

场景 示例
测量误差 仪器读数、酶活重复实验
样本均值 大样本下均值分布(CLT)
回归残差 线性模型噪声(近似)
PLM 嵌入 高维向量分量近似正态(启发式)
QC 控制图 $\mu \pm 3\sigma$ 界限

8. 局限与误用

图 4 局限

误用 后果
右偏数据直接均值比较 应取对数 → 对数正态,或秩检验
小样本强行 Z 检验 应用 t 分布
重尾数据当正态 极端值概率低估
多峰分布单峰拟合 混合正态或分组建模
未检验正态性即用参数检验 Math-01 正态性检验

9. 参数估计与推断

9.1 MLE

样本 $x_1,\ldots,x_n$:

$$
\hat{\mu} = \bar{x}, \quad \hat{\sigma}^2 = \frac{1}{n}\sum_{i=1}^n (x_i - \bar{x})^2
$$

(无偏估计分母用 $n-1$。)

9.2 检验


10. 示例与代码

场景:10 次酶活测定(相对 WT),检验均值是否显著 $> 1$。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
import numpy as np
from scipy import stats
import matplotlib.pyplot as plt

data = np.array([1.05, 0.98, 1.12, 1.01, 0.95, 1.08, 1.15, 0.99, 1.03, 1.07])
mu_hat, sigma_hat = data.mean(), data.std(ddof=1)
print(f"mean={mu_hat:.4f}, std={sigma_hat:.4f}")

# 单样本 t 检验 H0: mu=1
t_stat, p_val = stats.ttest_1samp(data, popmean=1.0)
print(f"t-test vs 1.0: t={t_stat:.3f}, p={p_val:.4f}")

# PDF 叠加直方图
x = np.linspace(0.85, 1.25, 200)
fig, ax = plt.subplots(figsize=(8, 4))
ax.hist(data, bins=6, density=True, alpha=0.6, label='data')
ax.plot(x, stats.norm.pdf(x, mu_hat, sigma_hat), 'r-', lw=2, label='fitted Normal')
ax.set_xlabel('relative activity'); ax.legend()
plt.savefig('normal_enzyme_activity.png', dpi=150)

# QQ 图检验正态性
fig2 = stats.probplot(data, dist="norm", plot=plt)
plt.savefig('normal_qq_plot.png', dpi=150)

# 分位数
print("90th percentile:", stats.norm.ppf(0.9, mu_hat, sigma_hat))

11. 小结

  • $\mathcal{N}(\mu,\sigma^2)$:钟形、对称;CLT 与误差模型的核心。
  • 大样本均值 → 正态;$\sigma$ 未知小样本 → t
  • 右偏实验数据优先考虑对数变换或对数正态。

系列导航12.泊松 | 27.t分布


参考文献

  1. scipy.stats.norm
-------------本文结束感谢您的阅读-------------