(偏差平方和)/(母分散の比)〜カイ二乗分布(自由度は 偏差平方和の自由度)
数学としては適切とは言えないが、ここでは自由度の確認の方法として述べる。
カイ二乗分布
(1) \(X_1,X_2,\cdots,X_n\sim N(\mu,\sigma^2):i.i.d\) (独立に正規分布に従う)とき
\(\displaystyle \sum_{i=1}^n\left(X_i-\mu\right)^2\) の自由度は \(n\) である。
\(\displaystyle E\left(\sum_{i=1}^n\left(X_i-\mu\right)^2\right)=n\cdot\sigma^2\) \(\displaystyle \therefore E\left(\dfrac{1}{n} \sum_{i=1}^n\left(X_i-\mu\right)^2\right)=\sigma^2\)
自由度で割った期待値が母分散になるから、自由度は \(n\) である。
偏差平方和と母分散の比は、
\(\displaystyle \dfrac{1}{\sigma^2}\sum_{i=1}^n\left(X_i-\mu\right)^2=\sum_{i=1}^n\left(\dfrac{X_i-\mu}{\sigma}\right)^2
\sim \chi^2(n)\)
(2) \(X_1,X_2,\cdots,X_n\sim N(\mu,\sigma^2):i.i.d\) (独立に正規分布に従う)とき
\(\displaystyle \sum_{i=1}^n(X_i-\overline{X})^2\) の自由度は \((n-1)\) である。
\(\displaystyle E\left(\sum_{i=1}^n(X_i-\overline{X})^2\right)=(n-1)\cdot\sigma^2\)
自由度で割った期待値が母分散になるから、自由度は \(n-1\) である。
偏差平方和と母分散の比は、
\(\displaystyle \dfrac{1}{\sigma^2}\sum_{i=1}^n(X_i-\overline{X})^2\sim \chi^2(n-1)\) が成立する。
この考えで分散分析を考える。
東京大学 大森 宏 様 「分散分析」
http://lbm.ab.a.u-tokyo.ac.jp/~omori/meiji/meiji04new.html
平方和分解 \(S_T=S_e+S_A\) について、
帰無仮説のもとでは
\(E(S_e)=(n-a)\sigma^2\) より、 \(S_e\) の自由度は \((n-a)\) \(\therefore \dfrac{S_e}{\sigma^2}\sim \chi^2(n-a)\)
\(E(S_A)=(a-1)\sigma^2\) より、\(S_A\) の自由度は \((a-1)\) \(\therefore \dfrac{S_A}{\sigma^2}\sim \chi^2(a-1)\)
これが分散分析のF値である。
F値は「群間の平均平方(MSA)/群内の平均平方(MSE)」で算出する。
F値が大きいほど群間の平均値に差があると判断する。
カイ二乗分布の商は F分布に従うから、
\(F=\dfrac{S_A/(a-1)}{S_e/(n-a)}\sim F(a-1,n-a)\)