確率収束と分布収束の違いを理解することが重要である。
高校数学の美しい物語 様
大数の法則と中心極限定理の意味と関係 https://manabitimes.jp/math/1104
二項分布の正規近似(ラプラスの定理) https://manabitimes.jp/math/1107
確率収束と分布収束
確率変数 \(X_1,X_2,\cdots,X_n\) が独立で同じ平均 \(\mu\) と分散 \(\sigma^2\) を持つとき、
標本平均 \(\overline{X}\) は \(\mu\) に確率収束し、かつ \(N \left(\mu,\dfrac{\sigma^2}{n}\right)\) に分布収束する。
即ち、 \(X_1,X_2,\cdots,X_n;i.i.d.\sim (\mu,\sigma^2):\sigma^2<+\infty\) のとき、 \(\overline{X}\rightarrow \mu\) (確率収束)
これは、 \(V(\overline{X})=\dfrac{\sigma^2}{n}\) であることと対応している。
また、 \(\displaystyle \lim_{n \to \infty}P\left(\overline{X}\leq x\right)=\int_{-\infty}^{x} \dfrac{1}{\sqrt{2\pi}\sigma}\exp\left[-\dfrac{1}{2}\left(\dfrac{y-\mu}{\sigma}\right)^2\right]dy\) (分布収束)
これは、中心極限定理である。
[二項分布の場合]
2つの実験による結果 \(X,Y\) が等確率かどうか考える。
\(X_1,X_2,\cdots,X_n\:;\:i.i.d. \sim Ber(p)\) 独立にベルヌーイ分布に従うとする。 \(E(X_i)=p,V(X_i)=p(1-p)\)
\(\overline{X}=\dfrac{X_1+X_2+\cdots+X_n}{n}\rightarrow p\) (確率収束) :分子は二項分布に従う
確率収束すれば分布収束するので、次のように書ける。
\(\overline{X}\rightarrow N\left(p,\dfrac{p(1-p)}{n}\right)\) (分布収束) :正規分布に収束する
\(E(\overline{X})=p\) 、\(V(\overline{X})=\dfrac{p(1-p)}{n}\) : \(\overline{X}\)は相対度数
\(Y_1,Y_2,\cdots,Y_m\:;\:i.i.d.\sim Ber(p)\) 独立にベルヌーイ分布に従うとき、\(E(Y_j)=p,V(Y_j)=p(1-p)\)
\(\overline{Y}=\dfrac{Y_1+Y_2+\cdots+Y_m}{m}\rightarrow p\) (確率収束) :分子は二項分布に従う
\(E(\overline{Y})=p\) 、\(V(\overline{Y})=\dfrac{p(1-p)}{m}\) : \(\overline{Y}\)は相対度数
\(X_1,X_2,\cdots,X_n:Y_1,Y_2,\cdots,Y_m\) は独立だから、\(\overline{X},\overline{Y}\) も独立で、
\(E(\overline{X}-\overline{Y})=0\) 、\(V(\overline{X}-\overline{Y})=\dfrac{p(1-p)}{n}+\dfrac{p(1-p)}{m}\)
\(\overline{X}\rightarrow N\left(p,\dfrac{p(1-p)}{n}\right)\) 、\(\overline{Y}\rightarrow N\left(p,\dfrac{p(1-p)}{m}\right)\) だから、正規分布の再生性より
\(\overline{X}-\overline{Y}\rightarrow N\left(0\:,\:\dfrac{p(1-p)}{n}+\dfrac{p(1-p)}{m}\right)\)
これは2群の比率の同等性の近似検定に利用される。
[まとめ]
・大数法則と中心極限定理を区別する。
・大数法則は確率変数の確率収束、中心極限定理は確率分布の分布収束である。
・標準化すれば、標準正規分布によるz検定
・標準化して2乗すれば、自由度1のカイ二乗検定
となり、四分表の検定につながる。(当サイト「分割表の解析」参照)
理論的な説明は、次のサイトを参考にした。
東京大学大学院農学生命科学研究科 大森宏 様 「分割表の解析について」
http://lbm.ab.a.u-tokyo.ac.jp/~omori/kokusai/inhp/kokuin02.html
『成功確率(比率)の同等性の近似検定』
東京大学工学部システム創成学科 様
https://ocw.u-tokyo.ac.jp/lecture_files/engin_05/3/notes/ja/ishikawa3.pdf