分散分析とは、どのような手法であろうか。
我々は点の位置を直交座標に分解する。直交を利用すれば三平方の定理の活用が可能となり様々なメリットが生まれる。
データの散らばりは偏差平方和で表される。
偏差平方和を群間変動と誤差変動に直交分解し、誤差変動に対する群間変動の割合を分析するのが分散分析である。
まず、全変動の直交分解について見ていこう。
一元配置分散分析 \(S_T=S_e+S_A\)
各群のデータ数を \(n_i\) とする。
| 水準 | \(A_1\) | \(\cdots\) | \(A_i\) | \(\cdots\) | \(A_a\) |
| 1 | |||||
| \(\vdots\) | |||||
| \(k\) | \(x_{ki}\) | ||||
| \(\vdots\) | |||||
| 平均 \(\overline{x}_{\cdot \cdot}\) | \(\overline{x}_{\cdot i}\) | \(\overline{x}_{\cdot a}\) |
全偏差 \(x_{ki}-\overline{x}_{\cdot \cdot}\) （表の斜め距離に相当）
水準内偏差 \(x_{ki}-\overline{x}_{\cdot i}\) （表の垂直距離に相当）
水準間偏差 \(\overline{x}_{\cdot i}-\overline{x}_{\cdot\cdot}\) （表の水平距離に相当）
偏差の性質として合計は 0
\(\displaystyle \sum_{k,i}(x_{ki}-\overline{x}_{\cdot \cdot})=0\) 、\(\displaystyle \sum_{k}(x_{ki}-\overline{x}_{\cdot i})=0\) 、\(\displaystyle \sum_{i}n_i\cdot (\overline{x}_{\cdot i}-\overline{x}_{\cdot\cdot})=0\)
このとき、 \((x_{ki}-\overline{x}_{\cdot \cdot})=(x_{ki}-\overline{x}_{\cdot i})+(\overline{x}_{\cdot i}-\overline{x}_{\cdot\cdot})\)
(全偏差)= (水準内偏差)+ (水準間偏差)
これは直交分解である。なぜなら、偏差の性質より \(A_i\) 水準において、
\(\displaystyle \sum_{k}(x_{ki}-\overline{x}_{\cdot i})(\overline{x}_{\cdot i}-\overline{x}_{\cdot\cdot})=(\overline{x}_{\cdot i}-\overline{x}_{\cdot\cdot})\sum_{k}(x_{ki}-\overline{x}_{\cdot i})=(\overline{x}_{\cdot i}-\overline{x}_{\cdot\cdot})\cdot0=0\)
\(\displaystyle \therefore \sum_{k}(x_{ki}-\overline{x}_{\cdot i})(\overline{x}_{\cdot i}-\overline{x}_{\cdot\cdot})=0\)
\(\begin{split}\sum_{k}(x_{ki}-\overline{x}_{\cdot \cdot})^2&=\sum_{k}(x_{ki}-\overline{x}_{\cdot
i})^2+\sum_{k}(\overline{x}_{\cdot i}-\overline{x}_{\cdot\cdot})^2+2\sum_{k}(x_{ki}-\overline{x}_{\cdot
i})(\overline{x}_{\cdot i}-\overline{x}_{\cdot\cdot})\\
&=\sum_{k}(x_{ki}-\overline{x}_{\cdot i})^2+\sum_{k}(\overline{x}_{\cdot i}-\overline{x}_{\cdot\cdot})^2\\
&=\sum_{k}(x_{ki}-\overline{x}_{\cdot i})^2+n_i\cdot(\overline{x}_{\cdot i}-\overline{x}_{\cdot\cdot})^2
\end{split}\)
これが各 \(A_i\) 水準の偏差平方和について成立するから、
\(\begin{split}\sum_{i=1}^a\sum_{k=1}^{n_i}(x_{ki}-\overline{x}_{\cdot
\cdot})^2&=\sum_{i=1}^a\sum_{k=1}^{n_i}(x_{ki}-\overline{x}_{\cdot
i})^2+\sum_{i=1}^an_i\cdot(\overline{x}_{\cdot i}-\overline{x}_{\cdot\cdot})^2
\end{split}\)
よって、\(S_T=S_e+S_A\) (全変動)= (水準内変動)+ (水準間変動) が成立する。
２元配置分散分析 \(S_T=S_A+S_B+S_{A\times B}+S_e\)
簡単のため、 \((A_i,B_j)\) 水準には \(n\) 個のデータがあるとする。
| 因子 | \(B_1\) | \(\cdots\) | \(B_j\) | \(\cdots\) | \(B_b\) | |
| \(A_1\) | \(\overline{x}_{11\cdot}\) | \(\overline{x}_{1j\cdot}\) | \(\overline{x}_{1b\cdot}\) | \(\overline{x}_{1\cdot\cdot}\) | ||
| \(\vdots\) | \(\vdots\) | \(\vdots\) | \(\vdots\) | \(\vdots\) | ||
| \(A_i\) | \(\overline{x}_{i1\cdot}\) | \(\overline{x}_{ij\cdot}\) | \(\overline{x}_{ib\cdot}\) | \(\overline{x}_{i\cdot\cdot}\) | ||
| \(\vdots\) | \(\vdots\) | \(\vdots\) | \(\vdots\) | \(\vdots\) | ||
| \(A_a\) | \(\overline{x}_{a1\cdot}\) | \(\overline{x}_{nj\cdot}\) | \(\overline{x}_{ab\cdot}\) | \(\overline{x}_{a\cdot\cdot}\) | ||
| \(\overline{x}_{\cdot 1\cdot}\) | \(\overline{x}_{\cdot j\cdot}\) | \(\overline{x}_{\cdot b\cdot}\) | 平均 \(\overline{x}_{\cdot \cdot\cdot}\) |
\(\overline{x}_{ij\cdot}\) は、 \((A_i,B_j)\) 水準にある \(n\) 個のデータの平均を表す。
全偏差 \(\overline{x}_{ij\cdot}-\overline{x}_{\cdot \cdot\cdot}\) （表の斜め距離に相当）
水準内偏差 \(\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot \cdot\cdot}\) （表の垂直距離に相当）
水準間偏差 \(\overline{x}_{\cdot j\cdot}-\overline{x}_{\cdot\cdot\cdot}\) （表の水平距離に相当）
偏差の合計は０だから、\(\displaystyle \sum_{ij}(\overline{x}_{ij\cdot}-\overline{x}_{\cdot \cdot\cdot})=0\) 、\(\displaystyle \sum_{i}(\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot \cdot\cdot})=0\) 、\(\displaystyle \sum_{j}(\overline{x}_{\cdot j\cdot}-\overline{x}_{\cdot\cdot\cdot})=0\)
\((\overline{x}_{ij\cdot}-\overline{x}_{\cdot \cdot\cdot})
=(\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot \cdot\cdot})
+(\overline{x}_{\cdot j\cdot}-\overline{x}_{\cdot\cdot\cdot})
+(\overline{x}_{ij\cdot}-\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot j\cdot}+\overline{x}_{\cdot \cdot\cdot})\)
(全効果)= (Aの効果)+ (Bの効果)+ (ABの交互作用)
と分解すると、
\(\displaystyle \sum_i(\overline{x}_{ij\cdot}-\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot j\cdot}+\overline{x}_{\cdot \cdot\cdot})=\sum_i(\overline{x}_{ij\cdot}-\overline{x}_{\cdot j\cdot})-\sum_i(\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot \cdot\cdot})=0\)
同様に、\(\displaystyle \sum_j(\overline{x}_{ij\cdot}-\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot j\cdot}+\overline{x}_{\cdot \cdot\cdot})=0\) となる。
\((\overline{x}_{ij\cdot}-\overline{x}_{\cdot \cdot\cdot})^2
=\left[(\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot \cdot\cdot})
+(\overline{x}_{\cdot j\cdot}-\overline{x}_{\cdot\cdot\cdot})
+(\overline{x}_{ij\cdot}-\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot
j\cdot}+\overline{x}_{\cdot \cdot\cdot})\right]^2\) を展開して合計した項で、
\(\displaystyle \sum_{ij}(\overline{x}_{\cdot j\cdot}-\overline{x}_{\cdot\cdot\cdot})
(\overline{x}_{ij\cdot}-\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot j\cdot}+\overline{x}_{\cdot \cdot\cdot})
=\sum_{j}(\overline{x}_{\cdot j\cdot}-\overline{x}_{\cdot\cdot\cdot})
\sum_i(\overline{x}_{ij\cdot}-\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot j\cdot}+\overline{x}_{\cdot \cdot\cdot})
=0\)
\(\displaystyle \sum_{ij}(\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot
\cdot\cdot})
(\overline{x}_{ij\cdot}-\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot j\cdot}+\overline{x}_{\cdot \cdot\cdot})
=\sum_{i}(\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot \cdot\cdot})
\sum_j(\overline{x}_{ij\cdot}-\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot j\cdot}+\overline{x}_{\cdot \cdot\cdot})
=0\)
\(\displaystyle \sum_{ij}(\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot
\cdot\cdot})
(\overline{x}_{\cdot j\cdot}-\overline{x}_{\cdot\cdot\cdot})
=
\sum_{i}(\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot \cdot\cdot})
\sum_{j}(\overline{x}_{\cdot j\cdot}-\overline{x}_{\cdot\cdot\cdot})
=0\)
であるので、
\(\begin{split}
\sum_{ij}(\overline{x}_{ij\cdot}-\overline{x}_{\cdot \cdot\cdot})^2
&=\sum_{ij}(\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot \cdot\cdot})^2
+\sum_{ij}(\overline{x}_{\cdot j\cdot}-\overline{x}_{\cdot\cdot\cdot})^2
+\sum_{ij}(\overline{x}_{ij\cdot}-\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot j\cdot}+\overline{x}_{\cdot \cdot\cdot})^2\\
&=b\sum_{i}(\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot \cdot\cdot})^2
+a\sum_{j}(\overline{x}_{\cdot j\cdot}-\overline{x}_{\cdot\cdot\cdot})^2
+\sum_{ij}(\overline{x}_{ij\cdot}-\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot j\cdot}+\overline{x}_{\cdot \cdot\cdot})^2
\end{split}\)
\(\displaystyle \sum_{i=1}^a\sum_{j=1}^b\sum_{k=1}^{n}(x_{ijk}-\overline{x}_{\cdot\cdot\cdot})^2
=n\sum_{i=1}^a\sum_{j=1}^b(\overline{x}_{ij\cdot}-\overline{x}_{\cdot\cdot\cdot})^2
+\sum_{i=1}^a\sum_{j=1}^b\sum_{k=1}^{n}(x_{ijk}-\overline{x}_{ij\cdot})^2\)
に代入すると、
\(\begin{split}
\sum_{i,j,k}(x_{ijk}-\overline{x}_{\cdot\cdot\cdot})^2
=&bn\sum_{i=1}^a(\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot\cdot\cdot})^2+an\sum_{j=1}^b(\overline{x}_{\cdot j\cdot}-\overline{x}_{\cdot\cdot\cdot})^2+
n\sum_{i,j}(\overline{x}_{ij\cdot}-\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot j\cdot}+\overline{x}_{\cdot\cdot\cdot})^2
+\sum_{i,j,k}(x_{ijk}-\overline{x}_{ij\cdot})^2
\end{split}\)
これは、 \(S_T=S_A+S_B+S_{A\times B}+S_e\) を意味する。
交互作用 \(\displaystyle S_{A\times B}=n\sum_{i,j}(\overline{x}_{ij\cdot}-\overline{x}_{i\cdot\cdot}-\overline{x}_{\cdot
j\cdot}+\overline{x}_{\cdot\cdot\cdot})^2
\) については別に説明する。
［参考サイト］
東京大学大学院 大森宏 様 「分散分析」
http://lbm.ab.a.u-tokyo.ac.jp/~omori/meiji/meiji04new.html
F検定
誤差変動に対する群間変動の割合を判断するのがF検定である。
F値は「群間の平均平方(MSA)／群内の平均平方(MSe)」で算出する。
F値が大きいことを示されれば、群間平均に差があると判断する。
詳しくは、当サイト「F検定」参照。