統計検定1級 2012年 統計数理 問題5 解答例

はじめに

今回は統計検定1級より 2012年 統計数理 問題5 の解答を記載します。
多変量正規分布の条件付き分布の問題であり、2012年の統計数理では最難関です。
条件付き分布の定理を知らないと計算量が膨大となり、制限時間内に解答するのはほぼ不可能でしょう。
問題については著作物のため割愛します。

前置き

$X∼N(μ,Σ)\boldsymbol{X} \sim N(\boldsymbol{\mu},\Sigma)$ について、($Σ\Sigma$ は正則)

$$X=(X1X2),μ=(μ1μ2),Σ=(Σ11Σ12Σ21Σ22)\begin{aligned} \boldsymbol{X}= \begin{pmatrix} \boldsymbol{X}_{1} \\ \boldsymbol{X}_{2} \end{pmatrix}, \boldsymbol{\mu}= \begin{pmatrix} \boldsymbol{\mu}_{1} \\ \boldsymbol{\mu}_{2} \end{pmatrix}, \Sigma= \begin{pmatrix} \Sigma_{11} & \Sigma_{12} \\ \Sigma_{21} & \Sigma_{22} \\ \end{pmatrix} \end{aligned}$$

としたとき、$X2=x2\boldsymbol{X}_{2}=\boldsymbol{x}_{2}$ を与えた下での $X1\boldsymbol{X}_{1}$ の条件付き分布は

$$X1∣X2=x2∼N(μ1+Σ12Σ22−1(x2−μ2),Σ11−Σ12Σ22−1Σ21) \boldsymbol{X}_{1}|\boldsymbol{X}_{2}=\boldsymbol{x}_{2} \sim N\left(\boldsymbol{\mu}_{1}+\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_{2}), \Sigma_{11} - \Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21} \right)$$

となります。解答にはこの定理を利用します。
分散共分散行列が既知の場合は、比較的容易に条件付き分布を求められるので、覚えておいても損はないと思います。

[1]

$$X=(XY),μ=0,Σ=(1ρxyρxy1)X1=Y,X2=X,x2=xμ1=0,μ2=0Σ11=Σ22=1,Σ12=Σ21=ρxy\begin{aligned} &\boldsymbol{X}= \begin{pmatrix} X \\ Y \end{pmatrix}, \boldsymbol{\mu} = \boldsymbol{0}, \Sigma= \begin{pmatrix} 1 & \rho_{xy} \\ \rho_{xy} & 1 \\ \end{pmatrix} \\ &\boldsymbol{X}_1 = Y, \boldsymbol{X}_2 = X, \boldsymbol{x}_{2}=x\\ &\boldsymbol{\mu}_{1}=0,\boldsymbol{\mu}_{2}=0 \\ &\Sigma_{11}=\Sigma_{22}=1, \Sigma_{12}=\Sigma_{21} = \rho_{xy} \end{aligned}$$

とすると、$Y∣X=xY|X=x$ について期待値は

$$E[Y∣X=x]=μ1+Σ12Σ22−1(x2−μ2)=0+ρxy/1⋅(x−0)=ρxyx\begin{aligned} E[Y|X=x] &=\boldsymbol{\mu}_{1}+\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_{2})\\ &= 0+\rho_{xy}/1\cdot(x-0) \\ &= \rho_{xy}x \end{aligned}$$

$βx\beta_{x}$ は

$$βx=ρxz\beta_{x} = \rho_{xz}$$

分散については

$$V[Y∣X=x]=Σ11−Σ12Σ22−1Σ21=1−ρxy/1⋅ρxy=1−ρxy2\begin{aligned} V[Y|X=x] &=\Sigma_{11}-\Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21}\\ &= 1-\rho_{xy}/1\cdot \rho_{xy} \\ &= 1-\rho_{xy}^{2} \end{aligned}$$

[2]

$$X=(YXZ),μ=0,Σ=(1ρxyρyzρxy1ρxzρyzρxz1)X1=Y,X2=(XZ),x2=(xz)μ1=0,μ2=0Σ11=1,Σ12=(ρxyρyz),Σ21=(ρxyρyz),Σ22=(1ρxzρxz1)\begin{aligned} &\boldsymbol{X}= \begin{pmatrix} Y \\ X \\ Z \end{pmatrix}, \boldsymbol{\mu} = \boldsymbol{0}, \Sigma= \begin{pmatrix} 1 & \rho_{xy} & \rho_{yz} \\ \rho_{xy} & 1 & \rho_{xz} \\ \rho_{yz} & \rho_{xz} & 1 \\ \end{pmatrix} \\ &\boldsymbol{X}_1 = Y, \boldsymbol{X}_{2} = \begin{pmatrix} X \\ Z \end{pmatrix}, \boldsymbol{x}_{2} = \begin{pmatrix} x \\ z \end{pmatrix} \\ &\boldsymbol{\mu}_{1}=0,\boldsymbol{\mu}_{2}=\boldsymbol{0} \\ &\Sigma_{11}=1 , \Sigma_{12}=\begin{pmatrix} \rho_{xy} & \rho_{yz} \end{pmatrix}, \Sigma_{21}=\begin{pmatrix} \rho_{xy} \\ \rho_{yz} \end{pmatrix}, \Sigma_{22} = \begin{pmatrix} 1 & \rho_{xz} \\ \rho_{xz} & 1 \end{pmatrix} \end{aligned}$$

とすると、$Y∣X=x,Z=zY|X=x,Z=z$ について期待値は

$$E[Y∣X=x,Z=z]=μ1+Σ12Σ22−1(x2−μ2)=0+(ρxyρyz)11−ρxz2(1−ρxz−ρxz1)(x−0z−0)=11−ρxz2(ρxyρyz)(x−ρxzz−ρxzx+z)=11−ρxz2(ρxyx−ρxyρxzz−ρyzρxzx+ρyzz)=ρxy−ρyzρxz1−ρxz2x+ρyz−ρxyρxz1−ρxz2z\begin{aligned} E[Y|X=x,Z=z] &=\boldsymbol{\mu}_{1}+\Sigma_{12}\Sigma_{22}^{-1}(\boldsymbol{x}_2-\boldsymbol{\mu}_{2})\\ &= 0+\begin{pmatrix} \rho_{xy} & \rho_{yz} \end{pmatrix} \dfrac{1}{1-\rho_{xz}^{2}} \begin{pmatrix} 1 & -\rho_{xz} \\ -\rho_{xz} & 1 \end{pmatrix} \begin{pmatrix} x-0 \\ z-0 \end{pmatrix} \\ &=\dfrac{1}{1-\rho_{xz}^{2}} \begin{pmatrix} \rho_{xy} & \rho_{yz} \end{pmatrix} \begin{pmatrix} x -\rho_{xz} z \\ -\rho_{xz} x + z \end{pmatrix}\\ &=\dfrac{1}{1-\rho_{xz}^{2}} \left( \rho_{xy}x -\rho_{xy}\rho_{xz} z -\rho_{yz}\rho_{xz} x + \rho_{yz}z \right)\\ &=\dfrac{\rho_{xy} - \rho_{yz}\rho_{xz}}{1-\rho_{xz}^{2}}x + \dfrac{\rho_{yz} - \rho_{xy}\rho_{xz}}{1-\rho_{xz}^{2}}z \end{aligned}$$

$αx,αz\alpha_{x}, \alpha_{z}$ は

$$αx=ρxy−ρyzρxz1−ρxz2αz=ρyz−ρxyρxz1−ρxz2\begin{aligned} \alpha_{x} = \dfrac{\rho_{xy} - \rho_{yz}\rho_{xz}}{1-\rho_{xz}^{2}} \\ \alpha_{z} = \dfrac{\rho_{yz} - \rho_{xy}\rho_{xz}}{1-\rho_{xz}^{2}} \\ \end{aligned}$$

分散については

$$V[Y∣X=x,Z=z]=Σ11−Σ12Σ22−1Σ21=1−(ρxyρyz)11−ρxz2(1−ρxz−ρxz1)(ρxyρyz)=1−11−ρxz2(ρxyρyz)(ρxy−ρxzρyz−ρxyρxz+ρyz)=1−ρxy2−2ρxyρxzρyz+ρyz21−ρxz2\begin{aligned} V[Y|X=x,Z=z] &=\Sigma_{11}-\Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21}\\ &=1- \begin{pmatrix} \rho_{xy} & \rho_{yz} \end{pmatrix} \dfrac{1}{1-\rho_{xz}^{2}} \begin{pmatrix} 1 & -\rho_{xz} \\ -\rho_{xz} & 1 \end{pmatrix} \begin{pmatrix} \rho_{xy} \\ \rho_{yz} \end{pmatrix}\\ &=1- \dfrac{1}{1-\rho_{xz}^{2}} \begin{pmatrix} \rho_{xy} & \rho_{yz} \end{pmatrix} \begin{pmatrix} \rho_{xy} - \rho_{xz}\rho_{yz} \\ -\rho_{xy}\rho_{xz} + \rho_{yz} \\ \end{pmatrix} \\ &=1- \frac{\rho_{xy}^{2} - 2\rho_{xy}\rho_{xz}\rho_{yz} +\rho_{yz}^{2}}{1-\rho_{xz}^{2}} \end{aligned}$$

[3]

$βx=αx\beta_{x}=\alpha_{x}$より、

$$ρxy=ρxy−ρyzρxz1−ρxz2(1−ρxz2)ρxy=ρxy−ρyzρxzρxz2ρxy=ρyzρxzρxzρxy=ρyz\begin{aligned} \rho_{xy} = \dfrac{\rho_{xy} - \rho_{yz}\rho_{xz}}{1-\rho_{xz}^{2}} \\ (1-\rho_{xz}^{2})\rho_{xy} = \rho_{xy} - \rho_{yz}\rho_{xz} \\ \rho_{xz}^{2}\rho_{xy} = \rho_{yz}\rho_{xz} \\ \rho_{xz}\rho_{xy} = \rho_{yz}\\ \end{aligned}$$

よって、必要十分条件は $ρxzρxy=ρyz\rho_{xz}\rho_{xy} = \rho_{yz}$ である。

[4]

$V[Y∣X=x]=V[Y∣X=x,Z=z]V[Y|X=x]=V[Y|X=x,Z=z]$ より、

$$1−ρxy2=1−ρxy2−2ρxyρxzρyz+ρyz21−ρxz2(1−ρxz2)ρxy2=ρxy2−2ρxyρxzρyz+ρyz2ρxz2ρxy2−2ρxyρxzρyz+ρyz2=0(ρxzρxy−ρyz)2=0\begin{aligned} 1-\rho_{xy}^{2}= 1- \frac{\rho_{xy}^{2} - 2\rho_{xy}\rho_{xz}\rho_{yz} +\rho_{yz}^{2}}{1-\rho_{xz}^{2}} \\ (1-\rho_{xz}^{2})\rho_{xy}^{2}= \rho_{xy}^{2} - 2\rho_{xy}\rho_{xz}\rho_{yz} +\rho_{yz}^{2} \\ \rho_{xz}^{2}\rho_{xy}^{2} - 2\rho_{xy}\rho_{xz}\rho_{yz} +\rho_{yz}^{2} = 0 \\ \left( \rho_{xz}\rho_{xy} - \rho_{yz} \right)^{2} = 0 \\ \end{aligned}$$

以上より、必要十分条件は $ρxzρxy=ρyz\rho_{xz}\rho_{xy} = \rho_{yz}$ となる。