大数法則と中心極限定理

確率収束と分布収束の違いを理解することが重要である。

高校数学の美しい物語 様
 大数の法則と中心極限定理の意味と関係  https://manabitimes.jp/math/1104
 二項分布の正規近似(ラプラスの定理)  https://manabitimes.jp/math/1107

大数法則と中心極限定理

確率収束と分布収束

確率変数 \(X_1,X_2,\cdots,X_n\) が独立で同じ平均 \(\mu\) と分散 \(\sigma^2\) を持つとき、

     標本平均 \(\overline{X}\) は \(\mu\) に確率収束し、かつ \(N \left(\mu,\dfrac{\sigma^2}{n}\right)\) に分布収束する。

即ち、 \(X_1,X_2,\cdots,X_n;i.i.d.\sim (\mu,\sigma^2):\sigma^2<+\infty\) のとき、 \(\overline{X}\rightarrow \mu\) (確率収束)

     これは、 \(V(\overline{X})=\dfrac{\sigma^2}{n}\) であることと対応している。

また、 \(\displaystyle \lim_{n \to \infty}P\left(\overline{X}\leq x\right)=\int_{-\infty}^{x} \dfrac{1}{\sqrt{2\pi}\sigma}\exp\left[-\dfrac{1}{2}\left(\dfrac{y-\mu}{\sigma}\right)^2\right]dy\)  (分布収束)

     これは、中心極限定理である。

[二項分布の場合]

2つの実験による結果 \(X,Y\) が等確率かどうか考える。

\(X_1,X_2,\cdots,X_n\:;\:i.i.d. \sim Ber(p)\) 独立にベルヌーイ分布に従うとする。 \(E(X_i)=p,V(X_i)=p(1-p)\)

     \(\overline{X}=\dfrac{X_1+X_2+\cdots+X_n}{n}\rightarrow p\)    (確率収束) :分子は二項分布に従う

確率収束すれば分布収束するので、次のように書ける。

     \(\overline{X}\rightarrow N\left(p,\dfrac{p(1-p)}{n}\right)\)     (分布収束) :正規分布に収束する

     \(E(\overline{X})=p\) 、\(V(\overline{X})=\dfrac{p(1-p)}{n}\)     : \(\overline{X}\)は相対度数

\(Y_1,Y_2,\cdots,Y_m\:;\:i.i.d.\sim Ber(p)\) 独立にベルヌーイ分布に従うとき、\(E(Y_j)=p,V(Y_j)=p(1-p)\)

     \(\overline{Y}=\dfrac{Y_1+Y_2+\cdots+Y_m}{m}\rightarrow p\)    (確率収束) :分子は二項分布に従う

     \(E(\overline{Y})=p\) 、\(V(\overline{Y})=\dfrac{p(1-p)}{m}\)     : \(\overline{Y}\)は相対度数

\(X_1,X_2,\cdots,X_n:Y_1,Y_2,\cdots,Y_m\) は独立だから、\(\overline{X},\overline{Y}\)  も独立で、

     \(E(\overline{X}-\overline{Y})=0\) 、\(V(\overline{X}-\overline{Y})=\dfrac{p(1-p)}{n}+\dfrac{p(1-p)}{m}\)

\(\overline{X}\rightarrow N\left(p,\dfrac{p(1-p)}{n}\right)\) 、\(\overline{Y}\rightarrow N\left(p,\dfrac{p(1-p)}{m}\right)\)  だから、正規分布の再生性より

     \(\overline{X}-\overline{Y}\rightarrow N\left(0\:,\:\dfrac{p(1-p)}{n}+\dfrac{p(1-p)}{m}\right)\)

これは2群の比率の同等性の近似検定に利用される。

[まとめ]
・大数法則と中心極限定理を区別する。
・大数法則は確率変数の確率収束、中心極限定理は確率分布の分布収束である。

・標準化すれば、標準正規分布によるz検定
・標準化して2乗すれば、自由度1のカイ二乗検定
となり、四分表の検定につながる。(当サイト「分割表の解析」参照)

理論的な説明は、次のサイトを参考にした。

東京大学大学院農学生命科学研究科 大森宏 様 「分割表の解析について」
     
http://lbm.ab.a.u-tokyo.ac.jp/~omori/kokusai/inhp/kokuin02.html
      『成功確率(比率)の同等性の近似検定』

東京大学工学部システム創成学科 様
      https://ocw.u-tokyo.ac.jp/lecture_files/engin_05/3/notes/ja/ishikawa3.pdf


 

 


© hyoccori-toukei 2021