  |
大数の法則の証明を行う。ここでは、大数の弱法則の証明を示す。
独立同分布（iid）な確率変数列 X₁, X₂, ..., Xₙ があり、その期待値を E(Xᵢ) = μ とする。このとき、サンプル平均 X̄ₙ = (1/n)∑ᵢXᵢ について、任意の正数 ε > 0 に対して以下が成り立つ。
lim[n→∞] P(|X̄ₙ - μ| ≥ ε) = 0
証明には、チェビシェフの不等式を用いる。まず、チェビシェフの不等式を証明する。
P(|Y - E(Y)| ≥ a) ≤ Var(Y)/a²
が成り立つ。
1. 指示関数 I[|Y - E(Y)| ≥ a] を定義する。
2. E[(Y - E(Y))²] ≥ E[(Y - E(Y))² · I[|Y - E(Y)| ≥ a]] が成り立つ。
3. 右辺は a² · P(|Y - E(Y)| ≥ a) 以上となる。
4. E[(Y - E(Y))²] = Var(Y) であるため、不等式が成立する。
- E(X̄ₙ) = μ
- Var(X̄ₙ) = Var(X₁)/n = σ²/n
- P(|X̄ₙ - μ| ≥ ε) ≤ Var(X̄ₙ)/ε² = σ²/(nε²)
3. 両辺の極限をとる。
- lim[n→∞] P(|X̄ₙ - μ| ≥ ε) ≤ lim[n→∞] σ²/(nε²) = 0
- lim[n→∞] P(|X̄ₙ - μ| ≥ ε) = 0
8
