2017 人文 (統計検定1級応用 過去問の解説です)
- 因子分析
- 一元配置分散分析、多群比較
- 2変量正規分布、単回帰分析、条件付期待値
- 標本抽出法
- 実験計画法
2017人文① 因子分析
[基本]簡単のため、3変量、2因子で説明する。
\(X=\begin{pmatrix}
x \\
y \\
z
\end{pmatrix},A=\begin{pmatrix}
a_{x} & b_{x} \\
a_{y} & b_{y} \\
a_{z} & b_{z}
\end{pmatrix}\) とおき、構造方程式を
\(X=\begin{pmatrix}
x \\
y \\
z
\end{pmatrix}=\begin{pmatrix}
a_{x} & b_{x} \\
a_{y} & b_{y} \\
a_{z} & b_{z}
\end{pmatrix}\begin{pmatrix}
F \\
G
\end{pmatrix}+\begin{pmatrix}
\varepsilon _{x} \\
\varepsilon _{y} \\
\varepsilon _{z}
\end{pmatrix}\) 即ち、 \(X=
A\begin{pmatrix}
F \\
G
\end{pmatrix}
+
\varepsilon \) とする。
相関行列は、
\(\begin{split}
R=
E(XX')&=
E\left(\left[
A\begin{pmatrix}
F \\
G
\end{pmatrix}
+
\varepsilon
\right]
\left[
A\begin{pmatrix}
F \\
G
\end{pmatrix}
+
\varepsilon
\right]'
\right)\\
&=
E\left(\left[
A\begin{pmatrix}
F \\
G
\end{pmatrix}
+
\varepsilon
\right]
\left[
\begin{pmatrix}
F&G
\end{pmatrix}A'
+
\varepsilon'
\right]
\right)\\
&=
A\left(
E
\left[
\begin{pmatrix}
F \\
G
\end{pmatrix}
\begin{pmatrix}
F&G
\end{pmatrix}\right]\right)A'
+
E(\varepsilon
\varepsilon' )
\end{split}
\)
因子間相関行列を \(M=E\left[
\begin{pmatrix}
F \\
G
\end{pmatrix}
\begin{pmatrix}
F&G
\end{pmatrix}\right]
=\begin{pmatrix}
1 & r \\
r & 1
\end{pmatrix}\) 、誤差を \(E(\varepsilon
\varepsilon' )
=E\begin{pmatrix}
\varepsilon _{x}^{2} & 0 & 0 \\
0 & \varepsilon _{y}^{2} & 0 \\
0 & 0 & \varepsilon _{z}^{2}
\end{pmatrix}
\) として
\(R=AMA'+
D\) ただし、 \(D=\begin{pmatrix}
e _{x}^{2} & 0 & 0 \\
0 & e_{y}^{2} & 0 \\
0 & 0 & e_{z}^{2}
\end{pmatrix}
\) (誤差分散)
これを因子分析の基本方程式という。Dを移行して、
\(R-D=AMA'\) または、 \(R-diag\left( I-AMA'\right) =AMA'\)
左辺の対角成分をx,y,zの共通性という。
\(R-
\begin{pmatrix}
e _{x}^{2} & 0 & 0 \\
0 & e_{y}^{2} & 0 \\
0 & 0 & e_{z}^{2}
\end{pmatrix}
=\begin{pmatrix}
a_{x} & b_{x} \\
a_{y} & b_{y} \\
a_{z} & b_{z}
\end{pmatrix}
\begin{pmatrix}
1 & r \\
r & 1
\end{pmatrix}
\begin{pmatrix}
a_{x} & a_{y} & a_{z} \\
b_{x} & b_{y} & b_{z}
\end{pmatrix}\) の対角成分を比べると、
\(\begin{cases}1-e_x^2=a_{x}^2+b_{x}^2+2ra_xb_x\\
1-e_y^2=a_{y}^2+b_{y}^2+2ra_yb_y\\
1-e_z^2=a_{z}^2+b_{z}^2+2ra_zb_z\end{cases}\) (共通性)
もし因子間相関がなければ、共通性は \(1-e_{x}^2=a_{x}^2+b_{x}^2\) のように簡単になる。
[因子分析の流れ]
・共通性の初期値を決める→共通性を推定する(共通因子の抽出)
因子抽出法は、最尤法、主因子法、主成分法など、共通性を推定する方法
・求まった共通性をもとに因子負荷量を回転法の基準で、未定係数法により一意に定める
回転法はデータの適合度に影響しない。どの回転法でも適合度は変わらない。
次のサイトを参考にさせて頂いた。
http://cogpsy.educ.kyoto-u.ac.jp/personal/Kusumi/datasem06/minemoto.pdf
https://www.nikkei-r.co.jp/glossary/id=1656
http://www.u.tsukuba.ac.jp/~hirai.akiyo.ft/forstudents/eigokyouikuhyoukaron2012_10_29_1.pdf
(1) バリマックス回転 構造方程式 \(X=
A\begin{pmatrix}
F \\
G
\end{pmatrix}
+
\varepsilon \) のもとで
\(R-
\begin{pmatrix}
e _{x}^{2} & 0 & 0 \\
0 & e_{y}^{2} & 0 \\
0 & 0 & e_{z}^{2}
\end{pmatrix}
=\begin{pmatrix}
a_{x} & b_{x} \\
a_{y} & b_{y} \\
a_{z} & b_{z}
\end{pmatrix}
\begin{pmatrix}
1 & r \\
r & 1
\end{pmatrix}
\begin{pmatrix}
a_{x} & a_{y} & a_{z} \\
b_{x} & b_{y} & b_{z}
\end{pmatrix}\) の意味を整理すると
\(AMA'\) の対角成分は共通性(1から誤差を減じたもの)に等しく、
\(AMA'\) の対角以外の成分は相関係数に等しい。
プロマックス回転の場合、(共通性)= \(1-e_x^2=a_{x}^2+b_{x}^2+2ra_xb_x\)
バリマックス回転の場合、(共通性)=\(1-e_x^2=a_{x}^2+b_{x}^2\)
問題文の A がバリマックス回転、Bがプロマックス回転である。
(2) バリマックス回転では因子は無相関になるので、 \(r=0\)
(3) プロマックス回転の場合、 \(0.52=(0.8)^2+(-0.2)^2+2r(0.8)(-0.2)\) \(\therefore r=0.5\)
(4)(5) 解答参照
2017人文② 一元配置分散分析 多群比較
分散分析では、誤差(群内変動)の正規性と等分散性を前提とする。
(1) 全変動 \(SST\) 、群間変動 \(SSB\) 、群内変動 \(SSW\) の間には、
\(SST=SSB+SSW\) が成立する。
A群に属する \(y_{A_i}\) について計算を確認する。
\(\begin{split}
\sum_{i=1}^{n_A}(y_{A_i}-\overline{y})^2
&=\sum_{i=1}^{n_A}(y_{A_i}-\overline{y_A}+\overline{y_A}-\overline{y})^2
=\sum_{i=1}^{n_A}\left[(y_{A_i}-\overline{y_A})^2+(\overline{y_A}-\overline{y})^2+2(y_{A_i}-\overline{y_A})(\overline{y_A}-\overline{y})\right]\\
&=\sum_{i=1}^{n_A}(y_{A_i}-\overline{y_A})^2+\sum_{i=1}^{n_A}(\overline{y_A}-\overline{y})^2+2(\overline{y_A}-\overline{y})\sum_{i=1}^{n_A}(y_{A_i}-\overline{y_A})\\
&=\sum_{i=1}^{n_A}(y_{A_i}-\overline{y_A})^2+n_A(\overline{y_A}-\overline{y})^2
\end{split}\)
B群、C群についても同様に、
\(\displaystyle
\sum_{i=1}^{n_B}(y_{B_i}-\overline{y})^2
=\sum_{i=1}^{n_B}(y_{B_i}-\overline{y_B})^2+n_B(\overline{y_B}-\overline{y})^2
\) \(\displaystyle
\sum_{i=1}^{n_C}(y_{C_i}-\overline{y})^2
=\sum_{i=1}^{n_C}(y_{C_i}-\overline{y_C})^2+n_C(\overline{y_C}-\overline{y})^2
\)
辺々たせば、 \(SST=SSB+SSW\) が言える。(解答参照)
(2) 各群の自由度は、それぞれ \((n_A-1),(n_B-1),(n_C-1)\) だから、
\(SSW\) の自由度は、\((n_A-1)+(n_B-1)+(n_C-1)=n-3\)
\(SSB\) の自由度は2、 \(SST\) の自由度は \(n-1\)
よって、 \(n-1=2+(n-3)\) が成り立っている。
(3) 群間分散は \(MS_B=\dfrac{SSB}{2}\) 、群内分散は \(MS_W=\dfrac{SSW}{n-3}\) であり、
検定量 \(F=\left.\dfrac{SSB}{2}\right/\dfrac{SSW}{n-3}\) は自由度 \((2\ ,\ n-3)\) のF分布に従う。
(4) \(F=4.46\) これを自由度 \((2\ ,\ 12)\) の分布 \(F(2\ ,\ 12)\) で調べることになる。
自由度 \((2\ ,\ 10)\) のF分布の上側 5% 点は 4.103 \((10\ ,\ 4.103)\)
自由度 \((2\ ,\ 15)\) のF分布の上側 5% 点は 3.682 \((15\ ,\ 3.682)\)
自由度 \((2\ ,\ 12)\) のF分布の上側 5% 点を \(A_x\) \((12\ ,\ A_x)\)
上側 5% 点は、自由度が増えると減少するので、\(3.682<A_x<4.103\)
今、 \(F=4.46>A_x\) であるから、有意水準5%で有意といえる。
北里大学 様 「統計数値表の補間について」 を参考にさせていただきました。
http://www2.vmas.kitasato-u.ac.jp/lecture0/statistics/stat_info02.pdf
自由度の補完によって \(A_x\) の近似値を求めることができる。
[逆数補間法]自由度の逆数が、表中の値とほぼ正比例をするという性質を利用した補間法で、
t表、F 表、Q表など、自由度が増加するに従って表の値が減少していく場合に適用される。
本問で逆数補間法を適用するには、
\(\left(\dfrac{1}{15}\ ,\ 3.682\right)\) \(\left(\dfrac{1}{12}\ ,\ A_x\right)\) \(\left(\dfrac{1}{10}\ ,\ 4.103\right)\) を直線で近似すればよい。
\(A_x=3.682+(4.103-3.682)\left(\dfrac{\frac{1}{10}-\frac{1}{15}}{\frac{1}{12}-\frac{1}{15}}\right)=3.8924\)
よって、 \(F=4.46>A_x\) となり、有意である。
(ExcelやnumbersなどのFDIST(値,自由度,自由度)でも上側確率を求めることができる)
\(F=4.46\) の自由度のF分布によるP値は、0.0356 であり、5%有意である。
(5) 分散分析では、誤差(群内変動)の正規性と等分散性を前提としている。
本問でも正規性と等分散を仮定しているので、共通分散としてプールされた分散を用いる。
共通分散は \(\widehat{\sigma}^2=\dfrac{SSW}{n-3}\)
A群: \(N(\mu_A,\widehat{\sigma}^2)\) B群: \(N(\mu_B,\widehat{\sigma}^2)\) C群: \(N(\mu_C,\widehat{\sigma}^2)\)
A、BCの2群に対し t検定を行う。
A群の平均: \(\overline{y_A}\sim N\left(\mu_A,\dfrac{\widehat{\sigma}^2}{n_A}\right)\) BC群の平均:\(\overline{y_A}\sim N\left(\mu_A,\dfrac{\widehat{\sigma}^2}{n_A}\right)\)
検定量 \(t=\left.\left(\overline{y_{A}}-\overline{y_{BC}}\right)\right/\sqrt{\frac{\widehat{\sigma}^2}{n_A}+\frac{\widehat{\sigma}^2}{n_B+n_C}} \sim t(n-3)\)
今、\(n_A=n_B=n_C=5\) 、\(\overline{y_A}=45\:,\:\overline{y_{BC}}=\dfrac{\overline{y_B}+\overline{y_C}}{2}=64.5\) 、 \(\widehat{\sigma^2}=\dfrac{1736}{12}\) より、\(t=-2.96\)
自由度12のt分布表によると、
片側検定のP値は、0.006
両側検定のP値は、0.012
帰無仮説: \(\mu_A<\mu_B=\mu_C\) に対するt片側検定では、1%有意となり検出力が大きい。
これは、1%有意である。
[t検定と分散分析の関係]
統計Web 様 「2標本t検定と分散分析の関係 (t値とF値の関係)
https://bellcurve.jp/statistics/blog/20333.html
\(F=t^2\) であり、分散分析のFによるP値と、t検定の両側P値は一致する。
本問の(5)で、A、BCの2群に対し F検定を行うこともできる。
\(F=t^2\) であるから、\(F=8.76\)
自由度 \((1,12)\) のF分布表によると、P値は 0.011
本来は、t検定の両側P値と、分散分析のF分布によるP値は一致するはずであるが、B,C群を合併しているため、ずれが生じている。
2017人文③ 2変量正規分布
[回帰直線]
\(z_1=\dfrac{x-\mu_x}{\sigma_x}
\:,\:z_2=\dfrac{y-\mu_y}{\sigma_y}\) 、回帰係数を \(\rho\) とすると、
\(z_2\) の \(z_1\) による回帰係数は相関係数 \(\rho\) に等しい。即ち、\(z_2=\rho z_1\)
\(\dfrac{y-\mu_y}{\sigma_y}=\rho \dfrac{x-\mu_x}{\sigma_x}\) \(\therefore y=\mu_y+\rho{\sigma_y} \dfrac{x-\mu_x}{\sigma_x}\) (回帰直線)
[参考] mathnote様
https://math-note.com/conditional-probability-of-multivariate-normal-distribution/
(1) 条件付き期待値 \(E(Y|X=x)\) は、 \(y\) の \(x\) による回帰直線の式に等しい。
\(\rho=\dfrac{\sigma_{xy}}{\sigma_x \sigma_y}=\dfrac{134}{15\cdot 15}=0.6\) だから、回帰直線は \(y=50+(0.6) {15} \dfrac{x-50}{15}=20+0.6x\)
\(\therefore \alpha=20\ ,\ \beta=0.6\)
(2) xを固定したときの条件付き分布は、
\(f(y|x)\sim N\left(\mu_y+\rho \sigma_y\left(\dfrac{x-\mu_x}{\sigma_x}\right),(1-\rho^2)\sigma_y^2\right)=N\left(20+0.6x,(1-0.6^2)15^2\right)\)
分散は x によらず一定であることが分かる。
これは、 単回帰 \(y=\alpha+ \beta x+u\) ( \(u\) は誤差)の特徴である。
\(x=60\) のとき、\(f(y|x=60)\sim N\left(56,12^2\right)\)
\(\therefore P(Y\geq 60|X=60)=P\left(Z\geq\dfrac{60-56}{12}\right)=0.369\)
(3) 条件付き期待値
\(\displaystyle E(X|a\leq X\leq b)=\int_a^b\dfrac{xf(x)}{P(a\leq X \leq b)}dx\)
大学生の確率・統計 「 p130の1(3) p139_teatime 稲垣p59 野田p156 」参照
本サイト「多変量正規分布」参照
\(X\sim N(50,135)\) より、\(\displaystyle E(X|X \geq50)=2\int_{50}^{+\infty}\dfrac{1}{\sqrt{2\pi}\cdot15}x\exp\left[-\dfrac{1}{2}\left(\dfrac{x-50}{15}\right)^2\right]dx\)
\(z=\dfrac{x-50}{15}\) と置換すると、\(dx=15dz\)
\(\begin{split}E(X|X \geq50)&=2\int_{0}^{+\infty}\dfrac{1}{\sqrt{2\pi}}(15z+50)\exp\left[-\dfrac{1}{2}z^2\right]dz\\
&=30\int_{0}^{+\infty}\dfrac{1}{\sqrt{2\pi}}z\exp\left[-\dfrac{1}{2}z^2\right]dz
+100\int_{0}^{+\infty}\dfrac{1}{\sqrt{2\pi}}\exp\left[-\dfrac{1}{2}z^2\right]dz\\
&=\dfrac{30}{\sqrt{2\pi}}\left[-\exp\left(-\dfrac{1}{2}z^2\right)\right]_0^{+\infty}+100\cdot \dfrac{1}{2}=
\dfrac{30}{\sqrt{2\pi}}+50
\end{split}\)
または、問題の誘導に従ってもよい。
\(Z\sim N(0,1)\) のとき、
\(\displaystyle\nu=E(Z|Z\geq 0)=2\int_{0}^{+\infty}\dfrac{1}{\sqrt{2\pi}}z\exp\left[-\dfrac{1}{2}z^2\right]dz
\dfrac{2}{\sqrt{2\pi}}\left[-\exp\left(-\dfrac{1}{2}z^2\right)\right]_0^{+\infty}
=\sqrt{\dfrac{2}{{\pi}}}\)
\(X=15Z+50\) だから、
\(\begin{split}
\xi&=E(X|X\geq 50)=E(15Z+50|15+50Z\geq 50)\\
&=E(15Z+50|Z\geq 0)=15E(Z|Z\geq 0)+E(50|Z\geq 0)\\&=15\nu +50=15\sqrt{\dfrac{2}{{\pi}}}+50
\end{split}\)
(4) 条件付き期待値 \(E(Y|X=x)\) は、 \(y\) の \(x\) による回帰直線の式に等しい。
(1) で確認したように、\(E(Y|X=x)=\alpha+\beta x\)
誘導では、
\(E(Y|X\geq 50)=\alpha+\beta\cdot E(X|X\geq 50)\)
\(X\) の条件付き期待値を回帰式に代入すればよいことを用いているが、果たしてそうだろうか。
元の定義では、
\(\displaystyle E(Y|X\geq 50)=\dfrac{E(Y,X\geq 50)}{P(X\geq 50)}
=2E(Y,X\geq 50)=2\int_{50}^{+\infty}\int_{-\infty}^{+\infty}yf(x,y)dxdy\)
\(f(x,y)=\dfrac{1}{\left(\sqrt{2\pi}\right)^2\sqrt{|\Sigma|}}\exp\left[{-\dfrac{1}{2}(X-\mu)'\
\Sigma^{-1}(X-\mu)}\right]\) \(\mu=
\begin{pmatrix}
50\\
50
\end{pmatrix},\:\Sigma=
\begin{pmatrix}
15^2 & 135\\
135 & 15^2
\end{pmatrix}\)
\(\Sigma\) は正定値であるから、2次元標準正規分布 \((Z_1,Z_2)\) と正則行列 \(A\) が存在して、
\(\begin{pmatrix}
X\\
Y
\end{pmatrix}
=A
\begin{pmatrix}
Z_1\\
Z_2
\end{pmatrix}
+
\begin{pmatrix}
50\\
50
\end{pmatrix}\) 、 \(AA'=\Sigma\)
\(A\) は無数にあるが、 \(A=\begin{pmatrix}
\sigma_X & 0 \\
\rho \sigma_Y & \sqrt{1-\rho^{2}}\sigma_Y
\end{pmatrix}\) とすると、
\(0\leq Z_1\) 、\(-\infty<Z_2<+\infty\)
\(y=0.6\cdot 15z_1+0.8\cdot 15 z_2=9z_1+12z_2\)
ヤコビ行列は \(A\) であるから、\(dxdy=|A|dz_1dz_2=\sqrt{|\Sigma|}dz_1dz_2\)
\((X-\mu)'\ \Sigma^{-1}(X-\mu)
=
\begin{pmatrix}z_1 & z_2\end{pmatrix}A'(AA')^{-1}A\begin{pmatrix}z_1\\ z_2\end{pmatrix}
=
\begin{pmatrix}z_1 & z_2\end{pmatrix}\begin{pmatrix}z_1\\ z_2\end{pmatrix}
=z_1^2+z_2^2
\) より
\(\begin{split}
E(Y|X\geq 50)&=2\int_{0}^{+\infty}\int_{-\infty}^{+\infty}(9z_1+12z_2+50)\dfrac{1}{\left(\sqrt{2\pi}\right)^2\sqrt{|\Sigma|}}\exp\left[{-\dfrac{1}{2}\left(z_1^2+z_2^2\right)}\right]\sqrt{|\Sigma|}dz_1dz_2\\
&=
2\int_{0}^{+\infty}
\int_{-\infty}^{+\infty}(9z_1+12z_2+50)\dfrac{1}{\sqrt{2\pi}^2}\exp\left[{-\dfrac{1}{2}\left(z_1^2+z_2^2\right)}\right]dz_1dz_2\\
&=2\int_{0}^{+\infty}
\int_{-\infty}^{+\infty}9z_1\dfrac{1}{\sqrt{2\pi}^2}\exp\left[{-\dfrac{1}{2}\left(z_1^2+z_2^2\right)}\right]dz_1dz_2+2\int_{0}^{+\infty}
\int_{-\infty}^{+\infty}12z_2\dfrac{1}{\sqrt{2\pi}^2}\exp\left[{-\dfrac{1}{2}\left(z_1^2+z_2^2\right)}\right]dz_1dz_2+50\\
&=2\int_{0}^{+\infty}
\int_{-\infty}^{+\infty}9z_1\dfrac{1}{\sqrt{2\pi}^2}\exp\left[{-\dfrac{1}{2}\left(z_1^2+z_2^2\right)}\right]dz_1dz_2+50\\
&=2\int_{0}^{+\infty}9z_1\dfrac{1}{\sqrt{2\pi}}\exp\left({-\dfrac{1}{2}z_1^2}\right)dz_1\cdot
\int_{-\infty}^{+\infty}\dfrac{1}{\sqrt{2\pi}}\exp\left({-\dfrac{1}{2}z_2^2}\right)dz_2+50\\
&=2\int_{0}^{+\infty}9z_1\dfrac{1}{\sqrt{2\pi}}\exp\left({-\dfrac{1}{2}z_1^2}\right)dz_1+50\\
&=9\dfrac{2}{\sqrt{2\pi}}+50=9\cdot 0.8+50=57.2
\end{split}\)
\(\begin{split}
E(X|X\geq 50)&=
2\int_{0}^{+\infty}
\int_{-\infty}^{+\infty}(15z_1+50)\dfrac{1}{\sqrt{2\pi}^2}\exp\left[{-\dfrac{1}{2}\left(z_1^2+z_2^2\right)}\right]dz_1dz_2\\
&=2\int_{0}^{+\infty}
\int_{-\infty}^{+\infty}15z_1\dfrac{1}{\sqrt{2\pi}^2}\exp\left[{-\dfrac{1}{2}\left(z_1^2+z_2^2\right)}\right]dz_1dz_2+50\\
&=2\int_{0}^{+\infty}15z_1\dfrac{1}{\sqrt{2\pi}}\exp\left({-\dfrac{1}{2}z_1^2}\right)dz_1\cdot
\int_{-\infty}^{+\infty}\dfrac{1}{\sqrt{2\pi}}\exp\left({-\dfrac{1}{2}z_2^2}\right)dz_2+50\\
&=2\int_{0}^{+\infty}15z_1\dfrac{1}{\sqrt{2\pi}}\exp\left({-\dfrac{1}{2}z_1^2}\right)dz_1+50\\
\end{split}\)
この式と前式を比べると、
\(\begin{split}
E(Y|X\geq 50)&=\dfrac{9}{15}\left[2\int_{0}^{+\infty}15z_1\dfrac{1}{\sqrt{2\pi}}\exp\left({-\dfrac{1}{2}z_1^2}\right)dz_1+50\right]+50-\dfrac{9}{15}\cdot50\\
&=\dfrac{9}{15}E(X|X\geq 50)+\dfrac{6}{15}\cdot 50\\
&=\alpha+\beta\cdot E(X|X\geq 50)
\end{split}
\)
問題の誘導が裏付けられる。
一般の証明は、当サイト「多変量正規分布」を参照。
(5) 回帰とは、データに偏りがあったとしても、いずれ平均値へと近くなる現象をいいます。
[参考]統計学がわかった 様 「平均への回帰とはなにか。遺伝学者ゴルトンの発見」
https://toukeigaku-jouhou.info/2018/02/20/regression-toward-the-mean/
今、 \((X_1,X_2)\) は同じ平均と分散を持ち、 \(
\begin{pmatrix}
X_1 \\
X_2
\end{pmatrix}
\sim
N_2\left( \begin{pmatrix}
\mu \\
\mu
\end{pmatrix},\begin{pmatrix}
\sigma^2 & \rho\sigma^2\\
\rho\sigma^2 & \sigma^2
\end{pmatrix}\right)
\)
であるとする。
\((X_1,X_2)\) を標準化した変量 \((Z_1,Z_2)\) の回帰式は \(Z_2=\rho Z_1\) \(\therefore X_2-\mu=\rho(X_1-\mu)\)
この式から \(X_2\) の偏差は \(X_1\) の偏差より小さく( \(\rho\) 倍)、平均へ回帰することが分かる。
\(E(Y|X\geq 50)=20+(0.6)\cdot E(X|X\geq 50)\) より
\(\begin{split}
E(Y|X\geq 50)-50&=-30+(0.6)\cdot E(X|X\geq 50)\\
&=0.6\cdot \left[E(X|X\geq 50)-50\right]
\end{split}\)
\(Y\) の条件付き期待値の偏差は \(X\) の条件付き期待値の偏差より小さく( \(0.6\) 倍)、平均へ回帰することが分かる。
実際、 \(57.2-50=0.6\times(62-50)\) となっている。
2017人文④ 標本抽出法
[復元抽出]
(大きさNの母集団U)→(大きさnの標本S):抽出確率: \(\displaystyle \sum_{i\in U}p_i=1\) において、
母集団総計 \(T\) の推定量 \(\displaystyle \widehat{T}=\dfrac{1}{n}\sum_{i\in S}\dfrac{y_i}{p_i}\) は\(T\) の普遍推定量である。
例えば、同様に確からしい場合 \(p_i=\dfrac{1}{N}\) よって、 \(\dfrac{y_i}{p_i}=Ny_i\) は母集団総計の推定量
これを \(S\) の n 個の元に対して平均をとると、\(\displaystyle \widehat{T}=\dfrac{1}{n}\sum_{i\in S}\dfrac{y_i}{p_i}\) これは合計の良い推定値である。
従って、 \(\overline{y}=\dfrac{\widehat{T}}{N}\) は母平均の良い推定量になる。 \(\displaystyle \overline{y}=\dfrac{1}{n}\sum_{i\in S}y_i\) でもある。
(注)復元抽出の場合は、同じ元が2度選ばれることもある。
この場合、\(S=\{y_1,\cdots,y_n\}=\{y_1,\cdots,y_k\}\:\:(k<n)\)
(1) 大きさnの標本の標本分散が \(V(\overline{y})=\dfrac{\sigma^2}{n}\) であることはよく知られている。
このことを、復元単純無作為抽出の場合について確かめる。
\(p_i=\dfrac{1}{N}\) より \(\displaystyle \widehat{T}=\dfrac{N}{n}\sum_{i\in S}y_i=N\overline{y}\) 即ち、 \(\overline{y}=\dfrac{\widehat{T}}{N}\) であるから
\(\displaystyle V(\overline{y})=\dfrac{1}{N^2}V\left(\widehat{T}\right)
=\dfrac{1}{N^2}\dfrac{1}{n}\sum_{i=1}^{N}p_i\left(\dfrac{y_i}{p_i}-T\right)^2
=\dfrac{1}{nN}\sum_{i=1}^{N}\left(y_i-\dfrac{T}{N}\right)^2\) \(\therefore V(\overline{y})=\dfrac{\sigma^2}{n}\)
\(\displaystyle \sigma^2=\dfrac{1}{N}\sum_{i=1}^{N}\left(y_i-\dfrac{T}{N}\right)^2\) だから、 \( V(\overline{y})=\dfrac{\sigma^2}{n}\)
(2) 層化抽出による標本平均 \(\displaystyle \widetilde{y}=\dfrac{1}{n}\sum_{i \in S}y_i\)について、期待値と分散を求める。
大きさ \(N_l\) の層から、大きさ \(n_l\) の標本 \(S_l\) を復元単純無作為抽出により抽出する。
\(\displaystyle \widehat{T_l}=\dfrac{1}{n_l}\sum_{i\in S_l}\dfrac{y_i}{1/N_l}
=\dfrac{N_l}{n_l}\sum_{i \in S_l}y_i\) \(\displaystyle \therefore \sum_{i \in S_l}y_i=\dfrac{n_l}{N_l}\cdot \widehat{T_l}\)
今、選択比率 \(\dfrac{n_l}{N_l}=\dfrac{n}{N}\) であるから、\(\displaystyle \sum_{i \in S_l}y_i=\dfrac{n}{N}\cdot \widehat{T_l}\)
標本の総計は、 \(\displaystyle \sum_{l=1}^L\sum_{i \in S_l}y_i=\dfrac{n}{N}\sum_{l=1}^L\widehat{T_l}\)
\(\displaystyle \sum_{i \in S}y_i=\dfrac{n}{N}\sum_{l=1}^{L}\widehat{T_l}\) だから、 \(\displaystyle \widetilde{y}=\dfrac{1}{n}\sum_{i \in S}y_i=\dfrac{1}{N}\sum_{l=1}^{L}\widehat{T_l}\) となり、
\(\displaystyle E(\widetilde{y})
=\dfrac{1}{N}\sum_{l=1}^{L}E\left(\widehat{T_l}\right)
=\dfrac{1}{N}\sum_{l=1}^{L}{T_l}
=\dfrac{1}{N}T=\mu\) ( \(\widetilde{y}\) は不偏推定量)
次に、層化抽出による標本分散について、
\(\displaystyle V(\widehat{T_l})=\dfrac{N_l^2}{n_l^2}\sum_{i\in S_l}V(y_i)=\dfrac{N_l^2}{n_l}\sigma_l^2\)
また、 \(\dfrac{n_l}{N_l}=\dfrac{n}{N}\) より \(n_l=\dfrac{nN_l}{N}\) \(\therefore \dfrac{1}{n_l}=\dfrac{N}{nN_l}\)だから、
\(\displaystyle V(\widetilde{y})=\dfrac{1}{N^2}\sum_{l=1}^{L}\dfrac{N_l^2}{n_l}\sigma_l^2
=\dfrac{1}{N^2}\sum_{l=1}^{L}\dfrac{N_lN}{n}\sigma_l^2
=\dfrac{1}{n}\sum_{l=1}^{L}\dfrac{N_l}{N}\sigma_l^2
\)
これは、各層の分散の加重平均と似ている。
[注意]
・復元単純無作為抽出の場合 \( V(\overline{y})=\dfrac{\sigma^2}{n}\) (母分散のn分の1)
・層化比例抽出の場合 \(\displaystyle V(\widetilde{y})
=\dfrac{1}{n}\left(\sum_{l=1}^{L}\dfrac{N_l}{N}\sigma_l^2\right)
\) (各層の分散の加重平均のn分の1)
(3)
\(\begin{split}
\sum_{i\in U}(y_i-\mu)^2&=\sum_{l=1}^L\sum_{i\in U_l}(y_i-\mu)^2=
\sum_{l=1}^L\sum_{i\in U_l}\left((y_i-\mu_l) -(\mu_l-\mu)\right)^2\\
&=\sum_{l=1}^L\sum_{i\in U_l}(y_i-\mu_l)^2+\sum_{l=1}^L\sum_{i\in U_l}(\mu_l-\mu)^2-2\sum_{l=1}^L\sum_{i\in U_l}(y_i-\mu_l)(\mu_l-\mu)\\
&=\sum_{l=1}^L\sum_{i\in U_l}(y_i-\mu_l)^2+\sum_{l=1}^L\sum_{i\in U_l}(\mu_l-\mu)^2-2\sum_{l=1}^L(\mu_l-\mu)\left(\sum_{i\in U_l}(y_i-\mu_l)\right)\\
\end{split}\)
\(\displaystyle \sum_{i\in U_l}(y_i-\mu_l)=0\) だから、
\(\displaystyle \sum_{i\in U}(y_i-\mu)^2=\sum_{l=1}^L N_l\sigma_l^2+\sum_{l=1}^LN_l(\mu_l-\mu)^2\)
これは、(全変動)=(群内変動)+(群間変動) を意味する。
\(\displaystyle \dfrac{1}{N}\sum_{i\in U}(y_i-\mu)^2=\sum_{l=1}^L \dfrac{N_l}{N}\sigma_l^2+\dfrac{1}{N}\sum_{l=1}^LN_l(\mu_l-\mu)^2\)
\(\displaystyle \sigma^2=\sum_{l=1}^L \dfrac{N_l}{N}\sigma_l^2+\dfrac{1}{N}\sum_{l=1}^LN_l(\mu_l-\mu)^2\) \(\therefore \:\:\displaystyle \dfrac{\sigma^2}{n}=\dfrac{1}{n}\sum_{l=1}^L \dfrac{N_l}{N}\sigma_l^2+\dfrac{1}{nN}\sum_{l=1}^LN_l(\mu_l-\mu)^2\)
故に、\(\displaystyle V(\overline{y})=V(\widetilde{y})+\dfrac{1}{nN}\sum_{l=1}^LN_l(\mu_l-\mu)^2\)
\(\mu_l=\mu\:\:(l=1,2,\cdots,L)\) であれば (群間変動)=0 であり、\(\displaystyle V(y)=V(\widetilde{y})\)
群間変動が大きくなるように層をとれば、層化抽出の分散 \(V(\widetilde{y})\) は小さくなる。
あとは、解答参照
(4) (2)を用いて分散を計算する。
[Sさんの案] \(\displaystyle V(\widetilde{y})=\dfrac{1}{n}\sum_{l=1}^{L}\dfrac{N_l}{N}\sigma_l^2
=\dfrac{1}{300}\left(\dfrac{1}{2}300+\dfrac{1}{2}300\right)=1
\)
[Tさんの案] \(\displaystyle V(\widetilde{y})=\dfrac{1}{n}\sum_{l=1}^{L}\dfrac{N_l}{N}\sigma_l^2
=\dfrac{1}{360}\left(\dfrac{1}{3}376+\dfrac{1}{3}376+\dfrac{1}{3}376\right)=\dfrac{376}{360}
\)
分散が小さいSさんの案がよいと考えられる。
一橋大学 北村 行伸 様 「比較統計システム論 講義録(2000 年度)」
https://www.ier.hit-u.ac.jp/~kitamura/lecture/Hit/00Statsys2.pdf
https://www.ier.hit-u.ac.jp/~kitamura/index_j.html
推定値の散らばりの小さな層毎に無作為抽出を行って標本平均の分散を小さくし、それらをまとめて母集団全体の平均の推定の精度を向上させようというのが層化抽出法の考え方である。
細かな計算は、当サイト「標本抽出法」を参照。
2017人文⑤ 実験計画法(グループ割り)
n人をA,Bに振り分ける。
[方法1]n=5 のとき
\(x_i:i=1\cdots 5\) は、独立にベルヌーイ分布 に従う。
\(E(x_i)=p=0.5\) 、 \(V(x_i)=p(1-p)=0.25\)
\(\displaystyle X_5=\sum_{i=1}^5 x_i\) は、二項分布 \(B(5,0.5)\) に従う。
\(E(X_5)=np=2.5\) 、 \(V(X_5)=np(1-p)=1.25\)
一般のnの場合、
\(\displaystyle X_n=\sum_{i=1}^n x_i\) は、二項分布 \(B(n,0.5)\) に従う。
\(X_n=X_{n-1}+x_n\) 、 \(x_n\sim Ber(0.5)\) だから、
\(E(X_n)=E(X_{n-1})+0.5\) \(\therefore E(X_n)=0.5n\)
\(V(X_n)=V(X_{n-1})+\dfrac{1}{4}\) \(\therefore V(X_n)=0.25n\)
(2)[方法2]n=5のとき
初期状態を \((A,B)=(0,0)\) とする。
樹形図を描き、 \(Y=3\) となる場合をリストして確率を計算する。
\((0,0)\rightarrow (1,0)\rightarrow (1,1)\rightarrow (2,1)\rightarrow (3,1)\rightarrow (3,2)\) \(\displaystyle \frac{1}2\cdot 1\cdot \frac{1}{2}\cdot \frac{1}{3}\cdot \frac{3}{4}=\frac{3}{48}\)
\((0,0)\rightarrow (1,0)\rightarrow (1,1)\rightarrow (2,1)\rightarrow (2,2)\rightarrow (3,2)\) \(\displaystyle \frac{1}2\cdot 1\cdot \frac{1}{2}\cdot \frac{2}{3}\cdot \frac{2}{4}=\frac{4}{48}\)
\((0,0)\rightarrow (1,0)\rightarrow (1,1)\rightarrow (1,2)\rightarrow (2,2)\rightarrow (3,2)\) \(\displaystyle \frac{1}2\cdot 1\cdot \frac{1}{2}\cdot \frac{2}{3}\cdot \frac{2}{4}=\frac{4}{48}\)
はじめの3項が \((0,0)\rightarrow (0,1)\rightarrow (1,1)\) の場合も同じ確率なので、\(\displaystyle P(X=3)=2\frac{11}{48}=\frac{11}{24}\)
初等的で時間のかかる方法である。
\(E(Y_5)=2.5\) 、 \(\displaystyle V(Y_5)=\frac{5}{12}\) (解答参照)
(3) 一般のnの場合 (1)の説明を詳しく書けば、
\(X_n=X_{n-1}+x_n\) 、 \(x_n\sim Ber(0.5)\) より、
\(E(X_n)=E(X_{n-1})+E(x_n)=E(X_{n-1})+\dfrac{1}{2}\)
\(E(X_n)\) は初項 \(E(X_0)=0\) 、公差 1/2 の等差数列だから、\(E(X_n)=0+n\cdot \dfrac{1}{2}=\dfrac{n}{2}\)
分散については、\(X_{n-1}\:,\:x_n\) は独立だから、
\(V(X_n)=V(X_{n-1})+V(x_n)=V(X_{n-1})+\dfrac{1}{4}\)
\(V(X_0)=0\) だから、\(V(X_n)=0+n\cdot \dfrac{1}{4}=\dfrac{n}{4}\) となる。
しかし、 \(Y_n\) については簡単にはいかない。
\(Y_n=Y_{n-1}+y_n\) 、 \(y_n\sim Ber\left(\dfrac{n-1-Y_{n-1}}{n-1}\right)\) より、
\(E(Y_n)=E(Y_{n-1})+E(y_n)=E(Y_{n-1})+\dfrac{n-1-Y_{n-1}}{n-1}=E(Y_{n-1})+1-\dfrac{Y_{n-1}}{n-1}\)
分散については、\(Y_{n-1}\:,\:y_n\) は独立でないので、簡単には行きそうにない。
よって、解答のような説明に留めるしかないと思われる。即ち、
\(E(X_n)=E(Y_n)\) 、 \(V(X_n)<V(Y_n)\) が成り立つ。(解答参照)
(4) 方法1、方法2どちらの方法かの指示はない。振り分け後の信頼区間を考える。
A:96人 \(X_A\sim N(\mu_A,20^2)\) B:104人 \(X_B\sim N(\mu_B,20^2)\)
標本平均 \(\overline{X_A}\sim N\left(\mu_A,\dfrac{20^2}{96}\right)\) \overline{X_B}\sim N\left(\mu_B,\dfrac{20^2}{104}\right)
95%の確率で、\(\mu_A-1.96\dfrac{20}{\sqrt{96}}\leq \overline{X_A}\leq \mu_A+1.96\dfrac{20}{\sqrt{96}}\)
\(\overline{X_A}-1.96\dfrac{20}{\sqrt{96}}\leq \mu_A\leq \overline{X_A}+1.96\dfrac{20}{\sqrt{96}}\) だから、信頼区間の幅は、\(2\cdot(1.96)\dfrac{20}{\sqrt{96}}\)
同様に、
\(\overline{X_B}-1.96\dfrac{20}{\sqrt{104}}\leq \mu_B\leq \overline{X_B}+1.96\dfrac{20}{\sqrt{104}}\) だから、信頼区間の幅は、\(2\cdot(1.96)\dfrac{20}{\sqrt{104}}\)
よって、 \(\dfrac{L_A}{L_B}=\dfrac{\sqrt{104}}{\sqrt{96}}\) \(L_A>L_B\) (信頼区間の幅は、標本数が大きいほど小さい)
(5) 標本数が大きいほど信頼区間の幅は小さい。
Aの標本数の期待値は n/2 であるから、nをある程度大きくする必要がある。
今、Aの標本数を \(X_n\) とすると、
期待値の幅: \(2\cdot(1.96)\dfrac{20}{\sqrt{X_n}}\leq8.0\) \(\therefore X_n\geq 96\)
一般のnの場合、 \(\displaystyle X_n=\sum_{i=1}^n x_i\) は、二項分布 \(B(n,0.5)\) に従う。
\(V(X_n)=n\dfrac{1}{2}\cdot\dfrac{1}{2}\) だから、正規分布で近似すると \(X_n\sim N\left(\dfrac{n}{2},\dfrac{n}{4}\right)\)
\(P(X_n\geq 96)=0.8\) とすると、\(\displaystyle P\left(\left.\left( X_n-\frac{n}{2}\right) \right/ \frac{n}{4} \geq \left.\left( 96-\frac{n}{2}\right) \right/ \frac{n}{4}\right)=0.8\)
\(\displaystyle \left.\left( 96-\frac{n}{2}\right) \right/ \frac{n}{4}=-0.84\) これから n=204 を得る。