2014 人文 （統計検定1級応用 過去問の解説です）
- ２変量正規分布
- ロジスティック回帰とテスト評価
- オッズとロジスティック回帰
- クラスター分析・デンドログラム
- 四分表の数理モデルの比較
2014人文① ２変量正規分布
\(\rho=\dfrac{\sigma_{XY}}{\sigma_X \sigma_Y}\) より、\(
\begin{pmatrix}
X \\
Y
\end{pmatrix}\sim N\left( \begin{pmatrix}
\mu_X \\
\mu_Y
\end{pmatrix},
\begin{pmatrix}
\sigma _{X}^{2} & \sigma_{XY} \\
\sigma _{XY} & \sigma _{Y}^{2}
\end{pmatrix}\right)
=N\left( \begin{pmatrix}
\mu_X \\
\mu_Y
\end{pmatrix},
\begin{pmatrix}
\sigma _{X}^{2} & \rho\sigma_{X}\sigma_{Y} \\
\rho\sigma_{X}\sigma_{Y} & \sigma _{Y}^{2}
\end{pmatrix}\right)
\)
\(T=X+Y\) 、\(\rho=0.5\)
(1) \(\sigma_{XY} =\rho\sigma_{X}\sigma_{Y}=(0.5)(10)(10)=50\) より、 \(
\begin{pmatrix}
X \\
Y
\end{pmatrix}\sim N\left( \begin{pmatrix}
50 \\
50
\end{pmatrix},
\begin{pmatrix}
10^{2} & 50 \\
50 & 10^{2}
\end{pmatrix}\right)
\)
\(\begin{split}
V(T)=V(X+Y)&=Cov(X+Y,X+Y)\\&=Cov(X,X)+2Cov(X,Y)+Cov(Y,Y)\\
&=V(X)+2Cov(X,Y)+V(Y)
\end{split}\)
よって、 \(V(T)=10^2+2\cdot 50+10^2=300\)
また、 \(E(T)=E(X)+E(Y)=100\) \(\therefore T\sim N(100,300)\)
(2) 2変量正規分布に従う確率変数の一次変換は2変量正規分布に従う。
\(\begin{pmatrix}
X \\
Y
\end{pmatrix}\) は2変量正規分布に従い、 \(\begin{pmatrix}
T \\
S
\end{pmatrix}
=\begin{pmatrix}
1&1 \\
1&-1
\end{pmatrix}
\begin{pmatrix}
X \\
Y
\end{pmatrix}
\)
よって、 \(\begin{pmatrix}
T \\
S
\end{pmatrix}\) は2変量正規分布に従う。
2変量正規分布では、確率変数の独立と無相関は同値であるので、 \(Cov(T,S)=0\) を示せばよい。
\(Cov(T,S)=Cov(X+Y,X-Y)=Cov(X,X)-Cov(Y,Y)=0\)
\(T,S\) は無相関であるから独立である。
(3) \(T\sim N(100,300)\) より、 \(Z=\dfrac{T-100}{\sqrt{300}} \sim N(0,1)\)
\(P(Z>a)=0.25\) となる \(a\) は、正規分布表より \(a=0.675\)
このとき、 \(T=\sqrt{300}a+100=111.7\)
よって、合格率0.25のときの合格最低点は111.7 である。
次に、 \(P(Z>a)=0.5\) となる \(a\) は、\(a=0\) であるから、\(T=\sqrt{300}a+100=100\)
合格率0.5のときの合格最低点は100 である。
(4) 合格率が1/4 のとき、
条件付き期待値は \(T=\sqrt{300}Z+100\) からZを利用して計算する。（ 2019① 参照）
\(\begin{split}E(T|T\geq 111.7)&=E(\sqrt{300}Z+100|Z\geq 0.675)
=\sqrt{300}\cdot E(Z|Z\geq 0.675)+100\\
&=\sqrt{300}\int ^{\infty }_{0.675}z\frac{\varphi\left(z\right)}{P(Z\geq 0.675)}dz+100\\
&=4\sqrt{300}\int ^{\infty }_{0.675}z\varphi\left(z\right)dz+100
\end{split}\)
ここで、\(\varphi(z)=\dfrac{1}{\sqrt{2\pi}}\exp\left({-\dfrac{z^{2}}{2}}\right)\) であり、 \(\displaystyle \int z\varphi\left( z\right) =-\varphi \left( z\right) \) であるから、
\(\begin{split}
E(T|T\geq 111.7)&=4\sqrt{300}\left[-\varphi\left(z\right)\right]_{0.675}^{+\infty}+100
=4\sqrt{300}\cdot \varphi\left(0.675\right)+100\\
&=100+40\sqrt{3}\dfrac{1}{\sqrt{2\pi}}\exp\left[{-\dfrac{(0.0675)^{2}}{2}}\right]=122.0
\end{split}\)
条件付き分散は、 \(T=\sqrt{300}Z+100\) より、
\(\begin{split}V(T|T\geq 111.7)&=V(\sqrt{300}Z+100|Z\geq 0.675)=300\cdot
V(Z|Z\geq0.675)\\&=300\left[E(Z^2|Z\geq0.675)-E(Z|Z\geq0.675)^2\right]
\end{split}\)
\(\begin{split}
E(Z^2|Z\geq0.675)
&=\int ^{\infty }_{0.675}z^2\frac{\varphi\left(z\right)}{P(Z\geq 0.675)}dz
=4\int ^{\infty }_{0.675}z^2\varphi\left(z\right)dz\\
&=4\int ^{\infty }_{0.675}z\cdot z\varphi\left(z\right)dz
=4\left[z(-\varphi(z)\right]_{0.675}^{\infty}+4\int_{0.675}^{\infty}\varphi(z)dz\\
&=4\cdot (0.675)\cdot \varphi(0.675)+4\cdot \dfrac{1}{4}=4\cdot (0.675)\cdot \varphi(0.675)+1
\end{split}\)
よって、
\(\begin{split}V(T|T\geq 111.7)&=300\left[\left(4\cdot(0.675)\cdot
\varphi(0.675)+1\right)-
\left(4\cdot \varphi\left(0.675\right)\right)^2\right]
\end{split}\)
近似値を計算する。
\(\varphi(0.675)=\dfrac{1}{\sqrt{2\pi}}\exp\left({-\dfrac{z^{2}}{2}}\right)=\dfrac{1}{\sqrt{2\pi}}\exp(-0.2278125)\)
巻末の表を補完して利用すると、
\(\exp(0.227)\fallingdotseq1.255\) \(\therefore \varphi(0.675)=\dfrac{1}{(2.506)(1.255)}=0.318\)
よって、 \(4\cdot(0.675)\cdot \varphi(0.675)+1
=4\cdot(0.675)\cdot (0.318)+1
=1.8586\)
\(\left(4\cdot \varphi\left(0.675\right)\right)^2=\left(4\cdot 0.318\right)^2=
1.618\)
よって、 \(V(T|T\geq 111.7)=300\cdot (1.8586-1.618)=72.18\)
次に、合格率が1/2 のとき、上の計算の0.675 を0 とすればよい。
条件付き期待値
\(\begin{split}E(T|T\geq 100)&=E(\sqrt{300}Z+100|Z\geq 0)
=\sqrt{300}\cdot E(Z|Z\geq 0)+100\\
&=\sqrt{300}\int ^{\infty }_{0}z\frac{\varphi\left(z\right)}{P(Z\geq 0)}dz+100\\
&=2\sqrt{300}\int ^{\infty }_{0}z\varphi\left(z\right)dz+100\\
&=2\sqrt{300}\left[-\varphi(z)\right]_0^{+\infty}+100=2\sqrt{300}\varphi(0)+100\\
&=\dfrac{2\sqrt{300}}{\sqrt{2\pi}}+100=13.82+100=113.8
\end{split}\)
条件付き分散
\(\begin{split}V(T|T\geq 100)&=V(\sqrt{300}Z+100|Z\geq 0)=300\cdot
V(Z|Z\geq0)\\&=300\left[E(Z^2|Z\geq0)-E(Z|Z\geq0)^2\right]
\end{split}\)
\(\begin{split}
E(Z^2|Z\geq0)
&=\int ^{\infty }_{0}z^2\frac{\varphi\left(z\right)}{P(Z\geq 0)}dz
=2\int ^{\infty }_{0}z^2\varphi\left(z\right)dz\\
&=2\int ^{\infty }_{0}z\cdot z\varphi\left(z\right)dz
=2\left[z(-\varphi(z))\right]_{0}^{\infty}+2\int_{0}^{\infty}\varphi(z)dz=1
\end{split}\)
\(\displaystyle E(Z|Z\geq 0)=\int ^{\infty }_{0}z\frac{\varphi\left(z\right)}{P(Z\geq 0)}dz=2\int ^{\infty }_{0}z\varphi\left(z\right)dz=2\varphi\left(0\right)=\dfrac{2}{\sqrt{2\pi}}\)
よって、 \(V(T|T\geq 100)=300\left(1-\dfrac{2}{\pi}\right)=108.9\)
2014人文② ロジスティック回帰とテスト評価
テスト問題の妥当性をチェックする方法について論じている。
受験生300名を総合点Tによって、
成績上位のH群150名 成績下位のL群150名
に分け、各小問 \(j\) について
H群150名の平均 \(U_j\) L群150名の平均 \(L_j\)
ダミー変数Dを
H群のとき \(D=1\) L群のとき \(D=0\)
と定め、Dを説明変数、各問の点数を目的変数とする回帰分析を行う。
回帰式は \(Y_j=a_j+b_jD\)
(1) I-T相関とは、Item score (項目得点)とTotal score (合計得点)の相関係数である。
I-T相関が高ければ、問題に識別力があると判断できる。
Total score との相関が小さかったり負であれば、問題に識別力がないと言える。
I-T相関が高ければ、内容の一貫性・整合性が高いと考えられる。
［参考］Gogle site 様
https://www.geisya.or.jp/~mwm48961/linear_algebra/reliability.htm
あとは、解答を参照。
回帰直線の傾きが大きければ、識別力が大きいと考える。
全平均との相関が高い問題は識別力が大きいと考えられる。詳しくは解答参照。
(2) \(D=X\) とし、ある問題の回帰式を \(Y=a+bX\) として \(a,b\) を求める。
散布図から考えると、 \(a=L\) （L群150名の平均）
\(D\) の増分は \(1-0\) だから \(b=\dfrac{U-L}{1}=U-L\) と考えられるが、
これを最小二乗法により導くのが本問の目的である。
\(Y=\begin{pmatrix}
Y_1\\\vdots\\ Y_n\\Y_{n+1}\\\vdots\\Y_{2n}
\end{pmatrix}\)、\(X=\begin{pmatrix}
1&1\\\vdots&\vdots \\ 1&1\\1&0\\\vdots&\vdots\\1&0
\end{pmatrix}\) とすると、回帰式は \(Y=X\begin{pmatrix}a\\b\end{pmatrix}\)
正規方程式は \(X'X\begin{pmatrix}a\\b\end{pmatrix}=X'Y\) よって、 \(\begin{pmatrix}a\\b\end{pmatrix}=(X'X)^{-1}X'Y\)
\(X'X=\begin{pmatrix}
1' \\
x'
\end{pmatrix}
\begin{pmatrix}
1 & x
\end{pmatrix}=
\begin{pmatrix}
1'\cdot 1 & 1'\cdot x \\
x'\cdot1 & x'\cdot x
\end{pmatrix}
=
\begin{pmatrix}
2n & n \\
n&n
\end{pmatrix}\)
\(X'Y=\begin{pmatrix}
1' \\
x'
\end{pmatrix}
Y=
\begin{pmatrix}
1'\cdot Y\\
x'\cdot Y
\end{pmatrix}
=
\begin{pmatrix}
nU+nL\\
nU
\end{pmatrix}\)
よって、 \(\begin{pmatrix}a\\b\end{pmatrix}=(X'X)^{-1}X'Y
=\dfrac{1}{n^2}\begin{pmatrix}
n & -n \\
-n&2n
\end{pmatrix}\begin{pmatrix}
nU+nL\\
nU
\end{pmatrix}
=
\begin{pmatrix}
1 & -1 \\
-1 &2
\end{pmatrix}
\begin{pmatrix}
U+L\\
U
\end{pmatrix}
=
\begin{pmatrix}
L\\
U-L
\end{pmatrix}\)
即ち、 \(a=L\:,\:\:b=U-L\) がいえる。
(3) 決定係数と相関係数
決定係数は、回帰変動の全変動に対する割合であり、説明変数が目的変数をどれくらい説明できるかを表す指標である。
\(R^2 = \dfrac{S_R}{S_T}\) （\(S_R = \displaystyle
\sum_{i = 1}^n {\left(Y_i -
\overline{y} \right)}^2
\:\:,\:\:\:
S_T = \displaystyle
\sum_{i = 1}^n {\left(y_i -
\overline{y} \right)}^2
\) 、\(Y_i\) は推定値 ）
決定係数は、(予測値の分散)／(実測値の分散) である。
また、決定係数は説明変数と目的変数の相関係数 \(r\) の２乗に等しいことが知られている。
高校数学の美しい物語 様 「決定係数の定義と相関係数との関係」参照
https://manabitimes.jp/math/1016
相関係数と回帰係数の関係は
(相関係数)＝(標準化した変数に対する回帰係数)
即ち、\(\dfrac{Y-\mu_Y}{S_Y}=r\cdot \dfrac{X-\mu_X}{S_X}\) であるから、 \(b=\dfrac{S_Y}{S_X}\cdot r\) \(\therefore r=\dfrac{S_X}{S_Y}\cdot b\)
（これは、\(b=\dfrac{\overline{xy}-\overline{x}\overline{y}}{\overline{x^2}-\overline{x}^2}=\dfrac{S_{XY}}{S_X^2}=\dfrac{S_{XY}}{S_X S_{Y}}\dfrac{S_{Y}}{S_X}=r\dfrac{S_{Y}}{S_X}\) からも得られる）
今、 \(V(D)=E(D^2)-E(D)^2=\dfrac{1}{2}-\left(\dfrac{1}{2}\right)^2=\dfrac{1}{4}\) \(\therefore S_D=\dfrac{1}{2}\)
よって、 \(r=\dfrac{S_D}{S_Y}\cdot b=\dfrac{b}{2S_Y}=\dfrac{U-L}{2S_Y}\)
（別解）
相関係数と回帰係数の関係を用いない場合は、 \(S_{YD}\) を計算する。
\(E(Y)=E(a+bD)=a+bE(D)=L+(U-L)\dfrac{1}{2}=\dfrac{U+L}{2}\)
\(E(YD)=E\left((a+bD)D\right)=aE(D)+bE(D^2)=L\dfrac{1}{2}+(U-L)\dfrac{1}{2}=\dfrac{U}{2}\)
であるから
\(S_{YD}=E(YD)-E(Y)E(D)=\dfrac{U}{2}-\dfrac{U+L}{2}\cdot \dfrac{1}{2}=\dfrac{U-L}{4}\)
\(r=\dfrac{S_{DY}}{S_D S_{Y}}=\dfrac{S_{DY}}{S_D^2}\cdot \dfrac{S_{D}}{S_{Y}}=(U-L)\cdot
\dfrac{1}{2S_Y
}=\dfrac{U-L}{2S_Y}\)
2014人文③ オッズ・ロジスティック回帰
まずロジスティック回帰の考え方を説明する。説明変数を \(X\) とする。
説明変数 \(X=x\) のとき、イベントの起こる確率 \(p\) を目的変数として分析したい。
オッズ \(O_Z=\dfrac{p}{1-p} \iff p=\dfrac{O_Z}{1+O_Z}=\dfrac{1}{1+O_Z^{-1}}\) （オッズを目的変数にしてもよい）
ロジット \(L=\log \dfrac{p}{1-p} \iff p=\dfrac{e^L}{1+e^L}=\dfrac{1}{1+e^{-L}}\) （ロジットを目的変数にしてもよい）
ロジットを目的変数とするのがロジスティック回帰分析である。
（ロジットのほうが直線への当てはまりがよい）
問題 (1)は説明変数が連続型の場合、(2)は説明変数がダミー変数で２値の場合である。
(1)の場合、現実的には当てはまるだけのデータの取得は難しく、実際には(2)のケースが多い。
(1) \(L=logit(p)=\beta_0+\beta_1x\) とすると、\(p=\dfrac{1}{1+e^{-L}}=\dfrac{1}{1+\exp\left[{-(\beta_0+\beta_1x)}\right]}\) (解答参照)。
(2) 「z=1は喫煙あり、z=0は喫煙なし」 とする。
| 体調不良ありの確率 | オッズ | ロジット | |
| z=0 | \(p_0\) | \(\dfrac{p_0}{1-p_0}\) | \(\log\left(\dfrac{p_0}{1-p_0}\right)\) |
| z=1 | \(p_1\) | \(\dfrac{p_1}{1-p_1}\) | \(\log\left(\dfrac{p_1}{1-p_1}\right)\) |
２点 \(\left(0,\log\left(\dfrac{p_0}{1-p_0}\right)\right)\:\:,\:\:\left(1,\log\left(\dfrac{p_1}{1-p_1}\right)\right)\) を通る直線が回帰直線 \(L=\gamma_0+\gamma_1z\) だから、
\(\gamma_0=\log\left(\dfrac{p_0}{1-p_0}\right)\) は、\(z=0\) のときの対数オッズ
\(\gamma_1=\log\left(\dfrac{p_1}{1-p_1}\right)-\log\left(\dfrac{p_0}{1-p_0}\right)
=\log\left(\dfrac{p_1}{1-p_1}\right)\left(\dfrac{1-p_0}{p_0}\right)\) は \(z=0\rightarrow1\) への対数オッズ比
実際の人数で推定すると、
| 体調不良あり | 体調不良なし | オッズ | ロジット | |
| z=0 | \(m_0\) | \(n_0-m_0\) | \(\dfrac{m_0}{n_0-m_0}\) | \(\log\left(\dfrac{m_0}{n_0-m_0}\right)\) |
| z=1 | \(m_1\) | \(n_1-m_1\) | \(\dfrac{m_1}{n_1-m_1}\) | \(\log\left(\dfrac{m_1}{n_1-m_1}\right)\) |
回帰直線の傾きは \(\widehat{\gamma_1}=\log\left(\dfrac{m_1}{n_1-m_1}\right)-\log\left(\dfrac{m_0}{n_0-m_0}\right)=\log\left[\dfrac{m_1(n_0-m_0)}{m_0(n_1-m_1)}\right]\) （対数オッズ比）
切片は \(\widehat{\gamma_0}=\log\left(\dfrac{m_0}{n_0-m_0}\right)\)
(3) AICを用いたモデリングの評価に関する問題である。
AIC（赤池情報量基準）：モデルの評価に関する問題（2015人文科学③ 参照）
統計Web 様 https://bellcurve.jp/statistics/glossary/380.html
統計的モデルの予測性の良さを、観測値と理論値の差（残差）を用いて評価する統計量。
AICの値が小さいほど当てはまりが良い。
本問では、AICが最も小さい(d)が当てはまりがよいと考えられる。
AICの定義は次の式である。
パラメーター \(\theta\) のもとでの尤度を 、\(L(x | \theta )\) パラメーターの個数を \(p\) とするとき、
赤池情報量基準は、
\(AIC= -2log(L(x | \theta ))+2p=-2\left[log(L(x | \theta ))-p\right]\) で与えられる。
［参考サイト］
統計科学研究所 様 「重回帰分析 変数選択」
https://statistics.co.jp/reference/software_R/statR_6_reg2.pdf
Jin’page 様 「重回帰分析」
https://www1.doshisha.ac.jp/~mjin/R/Chap_15/15.html
東北大学大学院医学系研究科 宮田 敏 様 「ロジスティック回帰
http://www.cardio.med.tohoku.ac.jp/2005/newmember/pdf/ms/19_6T.pdf
2014人文④ クラスター分析・デンドログラム
クラスター分析の出題は、2019人文② 、2018人文④ にもある。
(1) クラスター分析を手作業で行う問題である。
最短法は単純であるが、最長法は注意が必要である。（手作業は困難）
［１番目の併合］
・最短法でも最長法でも変わらない。0.67が最小でA・Bである。
［２番目の併合］
・0.97が次で、A・Cである。C・(AB)の距離を考えると、
最短法では0.97 最長法では1.20
最短法ではC・(AB)の併合であるが、最長法では1.14のD・Eが併合される。
［3番目の併合］
・最短法では単純に距離の小さいものを追えばよく、1.14のD・Eが併合。
・最長法ではABC・DEの距離はAとEの2.14であり、CとAの0.96がより小さいので、C・ABの
最長距離を見る。最長距離1.20でC・ABが併合する。
［4番目の併合］
・最短法では、次は1.22のB・Dに注目し、ABC・DEが併合。
・最長法ではABC・DEFの距離はAとEの2.71であり、DとFの1.63がより小さいのでF・DEの
最長距離を見る。最長距離1.63でF・DEが併合する。
(2)(3)
解答にあるように、最小法は手順が単純で手作業も可能であるが、鎖現象が起こり適切なクラスターを形成しない。最長法では適切な大きさのクラスターになるが、手作業は困難であるのでRなどのソフトで行うことになる。
| 併合順 | 距離（最短法） | 併合状況 | 追加 | 距離（最長法） | 併合状況 | 追加 |
| 1 | 0.67 | A | B | 0.67 | A | B |
| 2 | 0.97 | AB | C | 1.14 | D | E |
| 3 | 1.14 | D | E | 1.20 | AB | C |
| 4 | 1.22 | ABC | DE | 1.63 | DE | F |
Rでの処理結果
［最短法］
man.hc<-hclust(man.d,method = “single"))#最短法
> man.hc$merge クラスター形成の履歴
| [,1] | [,2] | |||
| [1,] | -1 | -2 | ①=(A,B) | ABを１番目のクラスターに |
| [2,] | -3 | 1 | ②=(C,①) | (C,AB)を２番目のクラスターに |
| [3,] | -4 | -5 | ③=(D,E) | (D,E)を３番目のクラスターに |
| [4,] | 2 | 3 | ④=(②,③) | (ABC,DE)を４番目のクラスターに |
| [5,] | -6 | 4 | ⑤=(F,④) | (F,ABCDE)を５番目のクラスターに |
| [6,] | -7 | 5 | ||
| [7,] | -9 | 6 | ||
| [8,] | -8 | 7 | ||
| [9,] | -10 | 8 |
> round(man.hc$height,2)
[1] 0.67 0.97 1.14 1.22 1.36 1.55 1.61 1.72 2.07
> man.hc$order
[1] 10 8 9 7 6 3 1 2 4 5
デンドログラムは、左から J H I G F C A B D E の順に書く。
［最長距離法］
> man.hc<-hclust(man.d,method = "complete")
> man.hc$merge
| [,1] | [,2] | |||
| [1,] | -1 | -2 | ①=(A,B) | (A,B)を１番目のクラスターに |
| [2,] | -4 | -5 | ②=(D,E) | (D,E)を２番目のクラスターに |
| [3,] | -3 | 1 | ③=(C,①) | (C,AB)を３番目のクラスターに |
| [4,] | -6 | 2 | ④=(F,②) | (F,DE)を４番目のクラスターに |
| [5,] | -7 | -8 | ||
| [6,] | -9 | 3 | ||
| [7,] | 4 | 6 | ||
| [8,] | -10 | 5 | ||
| [9,] | 7 | 8 |
> man.hc$height
[1] 0.67 1.14 1.20 1.63 1.98 2.09 2.71 3.17 3.93
> man.hc$order
[1] 6 4 5 9 3 1 2 10 7 8
6はFを、8はHを意味する。
2014人文⑤ 四分表の数理モデルの比較
調査結果を四分表で分析する問題である。
標本調査法の基礎理論については、
東京大学 美添 泰人 様 http://www.computer-services.e.u-tokyo.ac.jp/p/itme/dp/dp60.pdf を参照
基礎となるのは分割表の解析の手法であるカイ二乗検定であるので整理しておく。
［カイ二乗検定］
| y=1 | y=0 | 計 | |
| x=1 | a | b | a+b |
| x=0 | c | d | c+d |
| 計 | a+c | b+d | N |
この四分表のカイ二乗統計量は、
\(T=\dfrac{(ad-bc)^2N}{(a+b)(c+d)(a+c)(b+d)}\)
(1)は (a+b) と (c+d) を固定して分析する。
(2)は (a+c) と (b+d) を固定して分析する。
比率の差の検定は2×2分割表に対する独立性の検定(X2検定)と同等なものである．
（当サイト「分割表の分析」参照）
(3)(4)は難しい。