はじめに
今回は統計検定1級より 2012年 統計数理 問題5 の解答を記載します。
多変量正規分布の条件付き分布の問題であり、2012年の統計数理では最難関です。
条件付き分布の定理を知らないと計算量が膨大となり、制限時間内に解答するのはほぼ不可能でしょう。
問題については著作物のため割愛します。
前置き
\boldsymbol{X} \sim N(\boldsymbol{\mu},\Sigma) について、(\Sigma は正則)
\begin{aligned}
\boldsymbol{X}=
\begin{pmatrix}
\boldsymbol{X}_{1} \\
\boldsymbol{X}_{2}
\end{pmatrix},
\boldsymbol{\mu}=
\begin{pmatrix}
\boldsymbol{\mu}_{1} \\
\boldsymbol{\mu}_{2}
\end{pmatrix},
\Sigma=
\begin{pmatrix}
\Sigma_{11} & \Sigma_{12} \\
\Sigma_{21} & \Sigma_{22} \\
\end{pmatrix}
\end{aligned}
としたとき、\boldsymbol{X}_{2}=\boldsymbol{x}_{2} を与えた下での \boldsymbol{X}_{1} の条件付き分布は
\boldsymbol{X}_{1}|\boldsymbol{X}_{2}=\boldsymbol{x}_{2}
\sim N\left(\boldsymbol{\mu}_{1}+\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_{2}),
\Sigma_{11} - \Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21} \right)
となります。解答にはこの定理を利用します。
分散共分散行列が既知の場合は、比較的容易に条件付き分布を求められるので、覚えておいても損はないと思います。
[1]
\begin{aligned}
&\boldsymbol{X}=
\begin{pmatrix}
X \\
Y
\end{pmatrix},
\boldsymbol{\mu} = \boldsymbol{0},
\Sigma=
\begin{pmatrix}
1 & \rho_{xy} \\
\rho_{xy} & 1 \\
\end{pmatrix} \\
&\boldsymbol{X}_1 = Y, \boldsymbol{X}_2 = X, \boldsymbol{x}_{2}=x\\
&\boldsymbol{\mu}_{1}=0,\boldsymbol{\mu}_{2}=0 \\
&\Sigma_{11}=\Sigma_{22}=1, \Sigma_{12}=\Sigma_{21} = \rho_{xy}
\end{aligned}
とすると、Y|X=x について期待値は
\begin{aligned}
E[Y|X=x]
&=\boldsymbol{\mu}_{1}+\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_{2})\\
&= 0+\rho_{xy}/1\cdot(x-0) \\
&= \rho_{xy}x
\end{aligned}
\beta_{x} は
分散については
\begin{aligned}
V[Y|X=x]
&=\Sigma_{11}-\Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21}\\
&= 1-\rho_{xy}/1\cdot \rho_{xy} \\
&= 1-\rho_{xy}^{2}
\end{aligned}
[2]
\begin{aligned}
&\boldsymbol{X}=
\begin{pmatrix}
Y \\
X \\
Z
\end{pmatrix},
\boldsymbol{\mu} = \boldsymbol{0},
\Sigma=
\begin{pmatrix}
1 & \rho_{xy} & \rho_{yz} \\
\rho_{xy} & 1 & \rho_{xz} \\
\rho_{yz} & \rho_{xz} & 1 \\
\end{pmatrix} \\
&\boldsymbol{X}_1 = Y,
\boldsymbol{X}_{2} = \begin{pmatrix} X \\ Z \end{pmatrix},
\boldsymbol{x}_{2} = \begin{pmatrix} x \\ z \end{pmatrix} \\
&\boldsymbol{\mu}_{1}=0,\boldsymbol{\mu}_{2}=\boldsymbol{0} \\
&\Sigma_{11}=1 ,
\Sigma_{12}=\begin{pmatrix} \rho_{xy} & \rho_{yz} \end{pmatrix},
\Sigma_{21}=\begin{pmatrix} \rho_{xy} \\ \rho_{yz} \end{pmatrix},
\Sigma_{22} = \begin{pmatrix}
1 & \rho_{xz} \\
\rho_{xz} & 1
\end{pmatrix}
\end{aligned}
とすると、Y|X=x,Z=z について期待値は
\begin{aligned}
E[Y|X=x,Z=z]
&=\boldsymbol{\mu}_{1}+\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_{2})\\
&= 0+\begin{pmatrix} \rho_{xy} & \rho_{yz} \end{pmatrix}
\dfrac{1}{1-\rho_{xz}^{2}} \begin{pmatrix}
1 & -\rho_{xz} \\
-\rho_{xz} & 1
\end{pmatrix}
\begin{pmatrix} x-0 \\ z-0 \end{pmatrix} \\
&=\dfrac{1}{1-\rho_{xz}^{2}}
\begin{pmatrix} \rho_{xy} & \rho_{yz} \end{pmatrix}
\begin{pmatrix}
x -\rho_{xz} z \\
-\rho_{xz} x + z
\end{pmatrix}\\
&=\dfrac{1}{1-\rho_{xz}^{2}} \left(
\rho_{xy}x -\rho_{xy}\rho_{xz} z -\rho_{yz}\rho_{xz} x + \rho_{yz}z \right)\\
&=\dfrac{\rho_{xy} - \rho_{yz}\rho_{xz}}{1-\rho_{xz}^{2}}x +
\dfrac{\rho_{yz} - \rho_{xy}\rho_{xz}}{1-\rho_{xz}^{2}}z
\end{aligned}
\alpha_{x}, \alpha_{z} は
\begin{aligned}
\alpha_{x} = \dfrac{\rho_{xy} - \rho_{yz}\rho_{xz}}{1-\rho_{xz}^{2}} \\
\alpha_{z} = \dfrac{\rho_{yz} - \rho_{xy}\rho_{xz}}{1-\rho_{xz}^{2}} \\
\end{aligned}
分散については
\begin{aligned}
V[Y|X=x,Z=z]
&=\Sigma_{11}-\Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21}\\
&=1- \begin{pmatrix} \rho_{xy} & \rho_{yz} \end{pmatrix}
\dfrac{1}{1-\rho_{xz}^{2}} \begin{pmatrix}
1 & -\rho_{xz} \\
-\rho_{xz} & 1
\end{pmatrix}
\begin{pmatrix} \rho_{xy} \\ \rho_{yz} \end{pmatrix}\\
&=1- \dfrac{1}{1-\rho_{xz}^{2}}
\begin{pmatrix} \rho_{xy} & \rho_{yz} \end{pmatrix}
\begin{pmatrix}
\rho_{xy} - \rho_{xz}\rho_{yz} \\
-\rho_{xy}\rho_{xz} + \rho_{yz} \\
\end{pmatrix} \\
&=1- \frac{\rho_{xy}^{2} - 2\rho_{xy}\rho_{xz}\rho_{yz} +\rho_{yz}^{2}}{1-\rho_{xz}^{2}}
\end{aligned}
[3]
\beta_{x}=\alpha_{x}より、
\begin{aligned}
\rho_{xy} = \dfrac{\rho_{xy} - \rho_{yz}\rho_{xz}}{1-\rho_{xz}^{2}} \\
(1-\rho_{xz}^{2})\rho_{xy} = \rho_{xy} - \rho_{yz}\rho_{xz} \\
\rho_{xz}^{2}\rho_{xy} = \rho_{yz}\rho_{xz} \\
\rho_{xz}\rho_{xy} = \rho_{yz}\\
\end{aligned}
よって、必要十分条件は \rho_{xz}\rho_{xy} = \rho_{yz} である。
[4]
V[Y|X=x]=V[Y|X=x,Z=z] より、
\begin{aligned}
1-\rho_{xy}^{2}= 1- \frac{\rho_{xy}^{2} - 2\rho_{xy}\rho_{xz}\rho_{yz} +\rho_{yz}^{2}}{1-\rho_{xz}^{2}} \\
(1-\rho_{xz}^{2})\rho_{xy}^{2}= \rho_{xy}^{2} - 2\rho_{xy}\rho_{xz}\rho_{yz} +\rho_{yz}^{2} \\
\rho_{xz}^{2}\rho_{xy}^{2} - 2\rho_{xy}\rho_{xz}\rho_{yz} +\rho_{yz}^{2} = 0 \\
\left( \rho_{xz}\rho_{xy} - \rho_{yz} \right)^{2} = 0 \\
\end{aligned}
以上より、必要十分条件は \rho_{xz}\rho_{xy} = \rho_{yz} となる。
Discussion