2017 人文 (統計検定1級応用 過去問の解説です)
- 因子分析
- 一元配置分散分析、多群比較
- 2変量正規分布、単回帰分析、条件付期待値
- 標本抽出法
- 実験計画法
2017人文① 因子分析
[基本]簡単のため、3変量、2因子で説明する。
X=(xyz),A=(axbxaybyazbz) とおき、構造方程式を
X=(xyz)=(axbxaybyazbz)(FG)+(εxεyεz) 即ち、 X=A(FG)+ε とする。
相関行列は、
R=E(XX′)=E([A(FG)+ε][A(FG)+ε]′)=E([A(FG)+ε][(FG)A′+ε′])=A(E[(FG)(FG)])A′+E(εε′)
因子間相関行列を M=E[(FG)(FG)]=(1rr1) 、誤差を E(εε′)=E(ε2x000ε2y000ε2z) として
R=AMA′+D ただし、 D=(e2x000e2y000e2z) (誤差分散)
これを因子分析の基本方程式という。Dを移行して、
R−D=AMA′ または、 R−diag(I−AMA′)=AMA′
左辺の対角成分をx,y,zの共通性という。
R−(e2x000e2y000e2z)=(axbxaybyazbz)(1rr1)(axayazbxbybz) の対角成分を比べると、
{1−e2x=a2x+b2x+2raxbx1−e2y=a2y+b2y+2rayby1−e2z=a2z+b2z+2razbz (共通性)
もし因子間相関がなければ、共通性は 1−e2x=a2x+b2x のように簡単になる。
[因子分析の流れ]
・共通性の初期値を決める→共通性を推定する(共通因子の抽出)
因子抽出法は、最尤法、主因子法、主成分法など、共通性を推定する方法
・求まった共通性をもとに因子負荷量を回転法の基準で、未定係数法により一意に定める
回転法はデータの適合度に影響しない。どの回転法でも適合度は変わらない。
次のサイトを参考にさせて頂いた。
http://cogpsy.educ.kyoto-u.ac.jp/personal/Kusumi/datasem06/minemoto.pdf
https://www.nikkei-r.co.jp/glossary/id=1656
http://www.u.tsukuba.ac.jp/~hirai.akiyo.ft/forstudents/eigokyouikuhyoukaron2012_10_29_1.pdf
(1) バリマックス回転 構造方程式 X=A(FG)+ε のもとで
R−(e2x000e2y000e2z)=(axbxaybyazbz)(1rr1)(axayazbxbybz) の意味を整理すると
AMA′ の対角成分は共通性(1から誤差を減じたもの)に等しく、
AMA′ の対角以外の成分は相関係数に等しい。
プロマックス回転の場合、(共通性)= 1−e2x=a2x+b2x+2raxbx
バリマックス回転の場合、(共通性)=1−e2x=a2x+b2x
問題文の A がバリマックス回転、Bがプロマックス回転である。
(2) バリマックス回転では因子は無相関になるので、 r=0
(3) プロマックス回転の場合、 0.52=(0.8)2+(−0.2)2+2r(0.8)(−0.2) ∴r=0.5
(4)(5) 解答参照
2017人文② 一元配置分散分析 多群比較
分散分析では、誤差(群内変動)の正規性と等分散性を前提とする。
(1) 全変動 SST 、群間変動 SSB 、群内変動 SSW の間には、
SST=SSB+SSW が成立する。
A群に属する yAi について計算を確認する。
nA∑i=1(yAi−¯y)2=nA∑i=1(yAi−¯yA+¯yA−¯y)2=nA∑i=1[(yAi−¯yA)2+(¯yA−¯y)2+2(yAi−¯yA)(¯yA−¯y)]=nA∑i=1(yAi−¯yA)2+nA∑i=1(¯yA−¯y)2+2(¯yA−¯y)nA∑i=1(yAi−¯yA)=nA∑i=1(yAi−¯yA)2+nA(¯yA−¯y)2
B群、C群についても同様に、
nB∑i=1(yBi−¯y)2=nB∑i=1(yBi−¯yB)2+nB(¯yB−¯y)2 nC∑i=1(yCi−¯y)2=nC∑i=1(yCi−¯yC)2+nC(¯yC−¯y)2
辺々たせば、 SST=SSB+SSW が言える。(解答参照)
(2) 各群の自由度は、それぞれ (nA−1),(nB−1),(nC−1) だから、
SSW の自由度は、(nA−1)+(nB−1)+(nC−1)=n−3
SSB の自由度は2、 SST の自由度は n−1
よって、 n−1=2+(n−3) が成り立っている。
(3) 群間分散は MSB=SSB2 、群内分散は MSW=SSWn−3 であり、
検定量 F=SSB2/SSWn−3 は自由度 (2 , n−3) のF分布に従う。
(4) F=4.46 これを自由度 (2 , 12) の分布 F(2 , 12) で調べることになる。
自由度 (2 , 10) のF分布の上側 5% 点は 4.103 (10 , 4.103)
自由度 (2 , 15) のF分布の上側 5% 点は 3.682 (15 , 3.682)
自由度 (2 , 12) のF分布の上側 5% 点を Ax (12 , Ax)
上側 5% 点は、自由度が増えると減少するので、3.682<Ax<4.103
今、 F=4.46>Ax であるから、有意水準5%で有意といえる。
北里大学 様 「統計数値表の補間について」 を参考にさせていただきました。
http://www2.vmas.kitasato-u.ac.jp/lecture0/statistics/stat_info02.pdf
自由度の補完によって Ax の近似値を求めることができる。
[逆数補間法]自由度の逆数が、表中の値とほぼ正比例をするという性質を利用した補間法で、
t表、F 表、Q表など、自由度が増加するに従って表の値が減少していく場合に適用される。
本問で逆数補間法を適用するには、
(115 , 3.682) (112 , Ax) (110 , 4.103) を直線で近似すればよい。
Ax=3.682+(4.103−3.682)(110−115112−115)=3.8924
よって、 F=4.46>Ax となり、有意である。
(ExcelやnumbersなどのFDIST(値,自由度,自由度)でも上側確率を求めることができる)
F=4.46 の自由度のF分布によるP値は、0.0356 であり、5%有意である。
(5) 分散分析では、誤差(群内変動)の正規性と等分散性を前提としている。
本問でも正規性と等分散を仮定しているので、共通分散としてプールされた分散を用いる。
共通分散は ˆσ2=SSWn−3
A群: N(μA,ˆσ2) B群: N(μB,ˆσ2) C群: N(μC,ˆσ2)
A、BCの2群に対し t検定を行う。
A群の平均: ¯yA∼N(μA,ˆσ2nA) BC群の平均:¯yA∼N(μA,ˆσ2nA)
検定量 t=(¯yA−¯yBC)/√ˆσ2nA+ˆσ2nB+nC∼t(n−3)
今、nA=nB=nC=5 、¯yA=45,¯yBC=¯yB+¯yC2=64.5 、 ^σ2=173612 より、t=−2.96
自由度12のt分布表によると、
片側検定のP値は、0.006
両側検定のP値は、0.012
帰無仮説: μA<μB=μC に対するt片側検定では、1%有意となり検出力が大きい。
これは、1%有意である。
[t検定と分散分析の関係]
統計Web 様 「2標本t検定と分散分析の関係 (t値とF値の関係)
https://bellcurve.jp/statistics/blog/20333.html
F=t2 であり、分散分析のFによるP値と、t検定の両側P値は一致する。
本問の(5)で、A、BCの2群に対し F検定を行うこともできる。
F=t2 であるから、F=8.76
自由度 (1,12) のF分布表によると、P値は 0.011
本来は、t検定の両側P値と、分散分析のF分布によるP値は一致するはずであるが、B,C群を合併しているため、ずれが生じている。
2017人文③ 2変量正規分布
[回帰直線]
z1=x−μxσx,z2=y−μyσy 、回帰係数を ρ とすると、
z2 の z1 による回帰係数は相関係数 ρ に等しい。即ち、z2=ρz1
y−μyσy=ρx−μxσx ∴y=μy+ρσyx−μxσx (回帰直線)
[参考] mathnote様
https://math-note.com/conditional-probability-of-multivariate-normal-distribution/
(1) 条件付き期待値 E(Y|X=x) は、 y の x による回帰直線の式に等しい。
ρ=σxyσxσy=13415⋅15=0.6 だから、回帰直線は y=50+(0.6)15x−5015=20+0.6x
∴α=20 , β=0.6
(2) xを固定したときの条件付き分布は、
f(y|x)∼N(μy+ρσy(x−μxσx),(1−ρ2)σ2y)=N(20+0.6x,(1−0.62)152)
分散は x によらず一定であることが分かる。
これは、 単回帰 y=α+βx+u ( u は誤差)の特徴である。
x=60 のとき、f(y|x=60)∼N(56,122)
∴P(Y≥60|X=60)=P(Z≥60−5612)=0.369
(3) 条件付き期待値
E(X|a≤X≤b)=∫baxf(x)P(a≤X≤b)dx
大学生の確率・統計 「 p130の1(3) p139_teatime 稲垣p59 野田p156 」参照
本サイト「多変量正規分布」参照
X∼N(50,135) より、E(X|X≥50)=2∫+∞501√2π⋅15xexp[−12(x−5015)2]dx
z=x−5015 と置換すると、dx=15dz
E(X|X≥50)=2∫+∞01√2π(15z+50)exp[−12z2]dz=30∫+∞01√2πzexp[−12z2]dz+100∫+∞01√2πexp[−12z2]dz=30√2π[−exp(−12z2)]+∞0+100⋅12=30√2π+50
または、問題の誘導に従ってもよい。
Z∼N(0,1) のとき、
ν=E(Z|Z≥0)=2∫+∞01√2πzexp[−12z2]dz2√2π[−exp(−12z2)]+∞0=√2π
X=15Z+50 だから、
ξ=E(X|X≥50)=E(15Z+50|15+50Z≥50)=E(15Z+50|Z≥0)=15E(Z|Z≥0)+E(50|Z≥0)=15ν+50=15√2π+50
(4) 条件付き期待値 E(Y|X=x) は、 y の x による回帰直線の式に等しい。
(1) で確認したように、E(Y|X=x)=α+βx
誘導では、
E(Y|X≥50)=α+β⋅E(X|X≥50)
X の条件付き期待値を回帰式に代入すればよいことを用いているが、果たしてそうだろうか。
元の定義では、
E(Y|X≥50)=E(Y,X≥50)P(X≥50)=2E(Y,X≥50)=2∫+∞50∫+∞−∞yf(x,y)dxdy
f(x,y)=1(√2π)2√|Σ|exp[−12(X−μ)′ Σ−1(X−μ)] μ=(5050),Σ=(152135135152)
Σ は正定値であるから、2次元標準正規分布 (Z1,Z2) と正則行列 A が存在して、
(XY)=A(Z1Z2)+(5050) 、 AA′=Σ
A は無数にあるが、 A=(σX0ρσY√1−ρ2σY) とすると、
0≤Z1 、−∞<Z2<+∞
y=0.6⋅15z1+0.8⋅15z2=9z1+12z2
ヤコビ行列は A であるから、dxdy=|A|dz1dz2=√|Σ|dz1dz2
(X−μ)′ Σ−1(X−μ)=(z1z2)A′(AA′)−1A(z1z2)=(z1z2)(z1z2)=z21+z22 より
E(Y|X≥50)=2∫+∞0∫+∞−∞(9z1+12z2+50)1(√2π)2√|Σ|exp[−12(z21+z22)]√|Σ|dz1dz2=2∫+∞0∫+∞−∞(9z1+12z2+50)1√2π2exp[−12(z21+z22)]dz1dz2=2∫+∞0∫+∞−∞9z11√2π2exp[−12(z21+z22)]dz1dz2+2∫+∞0∫+∞−∞12z21√2π2exp[−12(z21+z22)]dz1dz2+50=2∫+∞0∫+∞−∞9z11√2π2exp[−12(z21+z22)]dz1dz2+50=2∫+∞09z11√2πexp(−12z21)dz1⋅∫+∞−∞1√2πexp(−12z22)dz2+50=2∫+∞09z11√2πexp(−12z21)dz1+50=92√2π+50=9⋅0.8+50=57.2
E(X|X≥50)=2∫+∞0∫+∞−∞(15z1+50)1√2π2exp[−12(z21+z22)]dz1dz2=2∫+∞0∫+∞−∞15z11√2π2exp[−12(z21+z22)]dz1dz2+50=2∫+∞015z11√2πexp(−12z21)dz1⋅∫+∞−∞1√2πexp(−12z22)dz2+50=2∫+∞015z11√2πexp(−12z21)dz1+50
この式と前式を比べると、
E(Y|X≥50)=915[2∫+∞015z11√2πexp(−12z21)dz1+50]+50−915⋅50=915E(X|X≥50)+615⋅50=α+β⋅E(X|X≥50)
問題の誘導が裏付けられる。
一般の証明は、当サイト「多変量正規分布」を参照。
(5) 回帰とは、データに偏りがあったとしても、いずれ平均値へと近くなる現象をいいます。
[参考]統計学がわかった 様 「平均への回帰とはなにか。遺伝学者ゴルトンの発見」
https://toukeigaku-jouhou.info/2018/02/20/regression-toward-the-mean/
今、 (X1,X2) は同じ平均と分散を持ち、 (X1X2)∼N2((μμ),(σ2ρσ2ρσ2σ2))
であるとする。
(X1,X2) を標準化した変量 (Z1,Z2) の回帰式は Z2=ρZ1 ∴X2−μ=ρ(X1−μ)
この式から X2 の偏差は X1 の偏差より小さく( ρ 倍)、平均へ回帰することが分かる。
E(Y|X≥50)=20+(0.6)⋅E(X|X≥50) より
E(Y|X≥50)−50=−30+(0.6)⋅E(X|X≥50)=0.6⋅[E(X|X≥50)−50]
Y の条件付き期待値の偏差は X の条件付き期待値の偏差より小さく( 0.6 倍)、平均へ回帰することが分かる。
実際、 57.2−50=0.6×(62−50) となっている。
2017人文④ 標本抽出法
[復元抽出]
(大きさNの母集団U)→(大きさnの標本S):抽出確率: ∑i∈Upi=1 において、
母集団総計 T の推定量 ˆT=1n∑i∈Syipi はT の普遍推定量である。
例えば、同様に確からしい場合 pi=1N よって、 yipi=Nyi は母集団総計の推定量
これを S の n 個の元に対して平均をとると、ˆT=1n∑i∈Syipi これは合計の良い推定値である。
従って、 ¯y=ˆTN は母平均の良い推定量になる。 ¯y=1n∑i∈Syi でもある。
(注)復元抽出の場合は、同じ元が2度選ばれることもある。
この場合、S={y1,⋯,yn}={y1,⋯,yk}(k<n)
(1) 大きさnの標本の標本分散が V(¯y)=σ2n であることはよく知られている。
このことを、復元単純無作為抽出の場合について確かめる。
pi=1N より ˆT=Nn∑i∈Syi=N¯y 即ち、 ¯y=ˆTN であるから
V(¯y)=1N2V(ˆT)=1N21nN∑i=1pi(yipi−T)2=1nNN∑i=1(yi−TN)2 ∴V(¯y)=σ2n
σ2=1NN∑i=1(yi−TN)2 だから、 V(¯y)=σ2n
(2) 層化抽出による標本平均 ˜y=1n∑i∈Syiについて、期待値と分散を求める。
大きさ Nl の層から、大きさ nl の標本 Sl を復元単純無作為抽出により抽出する。
^Tl=1nl∑i∈Slyi1/Nl=Nlnl∑i∈Slyi ∴∑i∈Slyi=nlNl⋅^Tl
今、選択比率 nlNl=nN であるから、∑i∈Slyi=nN⋅^Tl
標本の総計は、 L∑l=1∑i∈Slyi=nNL∑l=1^Tl
∑i∈Syi=nNL∑l=1^Tl だから、 ˜y=1n∑i∈Syi=1NL∑l=1^Tl となり、
E(˜y)=1NL∑l=1E(^Tl)=1NL∑l=1Tl=1NT=μ ( ˜y は不偏推定量)
次に、層化抽出による標本分散について、
V(^Tl)=N2ln2l∑i∈SlV(yi)=N2lnlσ2l
また、 nlNl=nN より nl=nNlN ∴1nl=NnNlだから、
V(˜y)=1N2L∑l=1N2lnlσ2l=1N2L∑l=1NlNnσ2l=1nL∑l=1NlNσ2l
これは、各層の分散の加重平均と似ている。
[注意]
・復元単純無作為抽出の場合 V(¯y)=σ2n (母分散のn分の1)
・層化比例抽出の場合 V(˜y)=1n(L∑l=1NlNσ2l) (各層の分散の加重平均のn分の1)
(3)
∑i∈U(yi−μ)2=L∑l=1∑i∈Ul(yi−μ)2=L∑l=1∑i∈Ul((yi−μl)−(μl−μ))2=L∑l=1∑i∈Ul(yi−μl)2+L∑l=1∑i∈Ul(μl−μ)2−2L∑l=1∑i∈Ul(yi−μl)(μl−μ)=L∑l=1∑i∈Ul(yi−μl)2+L∑l=1∑i∈Ul(μl−μ)2−2L∑l=1(μl−μ)(∑i∈Ul(yi−μl))
∑i∈Ul(yi−μl)=0 だから、
∑i∈U(yi−μ)2=L∑l=1Nlσ2l+L∑l=1Nl(μl−μ)2
これは、(全変動)=(群内変動)+(群間変動) を意味する。
1N∑i∈U(yi−μ)2=L∑l=1NlNσ2l+1NL∑l=1Nl(μl−μ)2
σ2=L∑l=1NlNσ2l+1NL∑l=1Nl(μl−μ)2 ∴σ2n=1nL∑l=1NlNσ2l+1nNL∑l=1Nl(μl−μ)2
故に、V(¯y)=V(˜y)+1nNL∑l=1Nl(μl−μ)2
μl=μ(l=1,2,⋯,L) であれば (群間変動)=0 であり、V(y)=V(˜y)
群間変動が大きくなるように層をとれば、層化抽出の分散 V(˜y) は小さくなる。
あとは、解答参照
(4) (2)を用いて分散を計算する。
[Sさんの案] V(˜y)=1nL∑l=1NlNσ2l=1300(12300+12300)=1
[Tさんの案] V(˜y)=1nL∑l=1NlNσ2l=1360(13376+13376+13376)=376360
分散が小さいSさんの案がよいと考えられる。
一橋大学 北村 行伸 様 「比較統計システム論 講義録(2000 年度)」
https://www.ier.hit-u.ac.jp/~kitamura/lecture/Hit/00Statsys2.pdf
https://www.ier.hit-u.ac.jp/~kitamura/index_j.html
推定値の散らばりの小さな層毎に無作為抽出を行って標本平均の分散を小さくし、それらをまとめて母集団全体の平均の推定の精度を向上させようというのが層化抽出法の考え方である。
細かな計算は、当サイト「標本抽出法」を参照。
2017人文⑤ 実験計画法(グループ割り)
n人をA,Bに振り分ける。
[方法1]n=5 のとき
xi:i=1⋯5 は、独立にベルヌーイ分布 に従う。
E(xi)=p=0.5 、 V(xi)=p(1−p)=0.25
X5=5∑i=1xi は、二項分布 B(5,0.5) に従う。
E(X5)=np=2.5 、 V(X5)=np(1−p)=1.25
一般のnの場合、
Xn=n∑i=1xi は、二項分布 B(n,0.5) に従う。
Xn=Xn−1+xn 、 xn∼Ber(0.5) だから、
E(Xn)=E(Xn−1)+0.5 ∴E(Xn)=0.5n
V(Xn)=V(Xn−1)+14 ∴V(Xn)=0.25n
(2)[方法2]n=5のとき
初期状態を (A,B)=(0,0) とする。
樹形図を描き、 Y=3 となる場合をリストして確率を計算する。
(0,0)→(1,0)→(1,1)→(2,1)→(3,1)→(3,2) 12⋅1⋅12⋅13⋅34=348
(0,0)→(1,0)→(1,1)→(2,1)→(2,2)→(3,2) 12⋅1⋅12⋅23⋅24=448
(0,0)→(1,0)→(1,1)→(1,2)→(2,2)→(3,2) 12⋅1⋅12⋅23⋅24=448
はじめの3項が (0,0)→(0,1)→(1,1) の場合も同じ確率なので、P(X=3)=21148=1124
初等的で時間のかかる方法である。
E(Y5)=2.5 、 V(Y5)=512 (解答参照)
(3) 一般のnの場合 (1)の説明を詳しく書けば、
Xn=Xn−1+xn 、 xn∼Ber(0.5) より、
E(Xn)=E(Xn−1)+E(xn)=E(Xn−1)+12
E(Xn) は初項 E(X0)=0 、公差 1/2 の等差数列だから、E(Xn)=0+n⋅12=n2
分散については、Xn−1,xn は独立だから、
V(Xn)=V(Xn−1)+V(xn)=V(Xn−1)+14
V(X0)=0 だから、V(Xn)=0+n⋅14=n4 となる。
しかし、 Yn については簡単にはいかない。
Yn=Yn−1+yn 、 yn∼Ber(n−1−Yn−1n−1) より、
E(Yn)=E(Yn−1)+E(yn)=E(Yn−1)+n−1−Yn−1n−1=E(Yn−1)+1−Yn−1n−1
分散については、Yn−1,yn は独立でないので、簡単には行きそうにない。
よって、解答のような説明に留めるしかないと思われる。即ち、
E(Xn)=E(Yn) 、 V(Xn)<V(Yn) が成り立つ。(解答参照)
(4) 方法1、方法2どちらの方法かの指示はない。振り分け後の信頼区間を考える。
A:96人 XA∼N(μA,202) B:104人 XB∼N(μB,202)
標本平均 ¯XA∼N(μA,20296) \overline{X_B}\sim N\left(\mu_B,\dfrac{20^2}{104}\right)
95%の確率で、μA−1.9620√96≤¯XA≤μA+1.9620√96
¯XA−1.9620√96≤μA≤¯XA+1.9620√96 だから、信頼区間の幅は、2⋅(1.96)20√96
同様に、
¯XB−1.9620√104≤μB≤¯XB+1.9620√104 だから、信頼区間の幅は、2⋅(1.96)20√104
よって、 LALB=√104√96 LA>LB (信頼区間の幅は、標本数が大きいほど小さい)
(5) 標本数が大きいほど信頼区間の幅は小さい。
Aの標本数の期待値は n/2 であるから、nをある程度大きくする必要がある。
今、Aの標本数を Xn とすると、
期待値の幅: 2⋅(1.96)20√Xn≤8.0 ∴Xn≥96
一般のnの場合、 Xn=n∑i=1xi は、二項分布 B(n,0.5) に従う。
V(Xn)=n12⋅12 だから、正規分布で近似すると Xn∼N(n2,n4)
P(Xn≥96)=0.8 とすると、P((Xn−n2)/n4≥(96−n2)/n4)=0.8
(96−n2)/n4=−0.84 これから n=204 を得る。