統計検定1級 2013年 統計数理 問題2 解答例

はじめに

今回は統計検定1級より 2013年 統計数理 問題2 の解答を記載します。
正規分布の条件付き確率に関する問題です。
変数変換により、条件付き確率の計算を簡略化するのがポイントです。
問題については著作物のため割愛します。

前置き

条件付き確率の計算の簡略化について説明します。
互いに独立でない確率変数 $X,YX,Y$ について、$Y,g(X,Y)Y,g(X,Y)$ が独立であれば、$Z=g(X,Y)Z=g(X,Y)$ として、( $gg$ は $xx$ について単調増加または単調減少)

$$P(X=x,Y=y)=P(Z=g(x,y),Y=y)∣∂x∂z(=g(x,y))∣=P(Z=g(x,y))P(Y=y)∣1∂g(x,y)∂x∣\begin{aligned} P(X=x,Y=y) &=P(Z=g(x,y),Y=y)\left|\dfrac{\partial x}{\partial z \big(=g(x,y)\big)} \right|\\ &=P(Z=g(x,y))P(Y=y) \left|\dfrac{1}{\dfrac{\partial g(x,y)}{\partial x}} \right| \end{aligned}$$

が成り立ちます。
これを利用して、$X∣Y=yX|Y=y$ について、$XX$ を $YY$ とは独立な確率変数 $Z=g(X,Y)Z=g(X,Y)$ に変換した場合、確率関数は

$$P(X=x∣Y=y)=P(X=x,Y=y)P(Y=y)=P(Z=g(x,y))P(Y=y)P(Y=y)∣1∂g(x,y)∂x∣=P(Z=g(x,y))∣1∂g(x,y)∂x∣\begin{aligned} P(X=x | Y=y) &=\dfrac{P(X=x , Y=y)}{P(Y=y)} \\ &=\dfrac{P(Z=g(x,y) )P( Y=y)}{P(Y=y)} \left|\dfrac{1}{\dfrac{\partial g(x,y)}{\partial x}} \right|\\ &=P(Z=g(x,y) ) \left|\dfrac{1}{\dfrac{\partial g(x,y)}{\partial x}} \right|\\ \end{aligned}$$

となり、計算を簡略化できる場合があります。

[1]

正規分布においては無相関と独立は同値である。
よって、$Cov[Yn,Xi−Ynn]=0Cov\left[Y_{n},X_{i}-\dfrac{Y_{n}}{n}\right]=0$ を示せばよい。$(i=1, ... ,n)(i=1,\ ...\ ,n)$
まず、$YnY_{n}$ の期待値、分散については

$$E[Yn]=E[X1+⋯+Xn]=nμV[Yn]=V[X1+⋯+Xn]=nσ2\begin{aligned} E[Y_{n}] &=E[X_{1}+\cdots+X_{n}]=n\mu\\ V[Y_{n}] &=V[X_{1}+\cdots+X_{n}]=n\sigma^{2} \end{aligned}$$

となる。よって、$YnY_{n}$ と $Xi−Yn/nX_{i} - Y_{n}/n$ の共分散は

$$Cov[Yn,Xi−Ynn]=Cov[X1+⋯+Xn,Xi]−1nCov[Yn,Yn]=Cov[Xi ,Xi]−1nV[Yn]=V[Xi]−1nV[Yn]=σ2−1n⋅nσ2=0\begin{aligned} Cov\left[Y_{n},X_{i}-\dfrac{Y_{n}}{n}\right] &=Cov\left[X_{1}+\cdots+X_{n},X_{i}\right] -\dfrac{1}{n}Cov\left[Y_{n},Y_{n} \right]\\ &=Cov\left[X_{i}\ ,X_{i}\right] -\dfrac{1}{n}V\left[Y_{n}\right]\\ &=V\left[X_{i} \right] -\dfrac{1}{n}V\left[Y_{n}\right]\\ &=\sigma^{2} -\dfrac{1}{n}\cdot n\sigma^{2}\\ &=0 \end{aligned}$$

以上より、$YnY_{n}$ と $X1−YnnX_{1}-\dfrac{Y_{n}}{n}$ は独立である。

[2]

$X1∣Yn=ynX_{1}|Y_{n}=y_{n}$ の分布について $P(X1=x1∣Yn=yn)P(X_{1}=x_{1}|Y_{n}=y_{n})$ を求めると、

$$P(X1=x1∣Yn=yn)=P(X1=x1,Yn=yn)P(Yn=yn)P(X_{1}=x_{1}|Y_{n} = y_{n} )=\dfrac{P(X_{1}=x_{1},Y_{n}=y_{n})}{P(Y_{n}=y_{n})}$$

となるが、$X1X_{1}$ と $YnY_{n}$ は独立ではないため計算が複雑になる。

そこで、$W1=X1−YnnW_{1} = X_{1}-\dfrac{Y_{n}}{n}$ とし、$X1X_{1}$ を $W1W_{1}$ に変換すると、[1]より $W1,YnW_{1},Y_{n}$ は独立であるため、計算を簡略化することができる。

$X1=x1,Yn=ynX_{1}=x_{1}, Y_{n} = y_{n}$ のとき、 $W1=x1−ynn, ∣∂∂x1(x1−ynn)∣=1W_{1} = x_{1} - \dfrac{y_{n}}{n},\ \left| \dfrac{\partial}{\partial x_{1}} \left(x_{1}-\dfrac{y_{n}}{n} \right) \right|=1$ となることから、

$$P(X1=x1∣Yn=yn)=P(X1=x1,Yn=yn)P(Yn=yn)=P(W1=x1−ynn,Yn=yn)P(Yn=yn)=P(W1=x1−ynn)P(Yn=yn)P(Yn=yn)=P(W1=x1−ynn)\begin{aligned} P(X_{1}=x_{1}|Y_{n} = y_{n} ) &=\dfrac{P(X_{1}=x_{1},Y_{n}=y_{n})}{P(Y_{n}=y_{n})} \\ &=\dfrac{P \left(W_{1}=x_{1}-\dfrac{y_{n}}{n} , Y_{n}=y_{n} \right)}{P(Y_{n}=y_{n})} \\ &=\dfrac{P \left(W_{1}=x_{1}-\dfrac{y_{n}}{n}\right) P(Y_{n}=y_{n} )}{P(Y_{n}=y_{n})} \\ &=P \left(W_{1}=x_{1}-\dfrac{y_{n}}{n}\right) \end{aligned}$$

$W1W_{1}$ の分布は

$$E[W1]=E[X1]−1nE[Yn]=σ−1nnσ=0\begin{aligned} E[W_{1}] &=E[X_{1}]-\dfrac{1}{n}E[Y_{n}] \\ &=\sigma- \dfrac{1}{n} n\sigma \\ &= 0 \end{aligned}$$

$$V[W1]=V[X1−Ynn]=V[n−1nX1−1n(X2+⋯+Xn)]=1n2{(n−1)2+(n−1)}σ2=n−1nσ2\begin{aligned} V[W_{1}] &=V\left[X_{1}-\dfrac{Y_{n}}{n} \right] \\ &=V\left[\dfrac{n-1}{n} X_{1} -\dfrac{1}{n}(X_{2}+\cdots+X_{n}) \right] \\ &=\dfrac{1}{n^{2}}\left\{ (n-1)^2 + (n-1) \right\}\sigma^{2} \\ &=\dfrac{n-1}{n}\sigma^{2} \\ \end{aligned}$$

よって、$W1∼N(0,n−1nσ2)W_{1} \sim N \left( 0,\dfrac{n-1}{n}\sigma^{2} \right)$

ゆえに、$X1∣Yn=ynX_{1} |Y_{n}=y_{n}$ の確率関数は、

$$P(X1=x1∣Yn=yn)=P(W1=x1−ynn)=12πn−1nσ2exp⁡{−w122n−1nσ2}∣w1=x1−yn/n=12πn−1nσ2exp⁡{−(x1−ynn)22n−1nσ2}\begin{aligned} P(X_{1}=x_{1}|Y_{n} = y_{n} ) &=P \left(W_{1}=x_{1} -\dfrac{y_{n}}{n}\right) \\ &=\left. \dfrac{1}{\sqrt{2\pi\dfrac{n-1}{n}\sigma^{2}}} \exp\left\{ -\dfrac{w_{1}^{2}}{2\dfrac{n-1}{n}\sigma^{2}} \right\} \right|_{w_{1}=x_{1}-y_{n}/n} \\ &=\dfrac{1}{\sqrt{2\pi\dfrac{n-1}{n}\sigma^{2}}} \exp\left\{ -\dfrac{\left(x_{1}-\dfrac{y_{n}}{n} \right)^{2}}{2\dfrac{n-1}{n}\sigma^{2}} \right\} \end{aligned}$$

となる。以上より、

$$X1∣Yn=yn∼N(ynn,n−1nσ2)X_{1}|Y_{n} = y_{n} \sim N\left(\dfrac{y_{n}}{n}, \dfrac{n-1}{n}\sigma^{2} \right)$$

[3]

[2]と同様に、$Yk−1Y_{k-1}$を $YkY_k$ に独立な確率変数に変換することで、計算を簡略化する。
今回の場合は [1]より $YkY_{k}$ と $Xi−Ykk(i=1,…,k)X_{i}-\dfrac{Y_{k}}{k} (i=1,\dots, k)$ が独立であることから、$Yk−1Y_{k-1}$ を $Wk=Xk−YkkW_{k}=X_{k} - \dfrac{Y_{k}}{k}$ に変換する。

$Wk=Xk−Ykk=Yk−Yk−1−Ykk=k−1kYk−Yk−1W_{k}=X_{k} - \dfrac{Y_{k}}{k}=Y_{k}-Y_{k-1}-\dfrac{Y_{k}}{k}=\dfrac{k-1}{k}Y_{k}-Y_{k-1}$ と変形すると、

$Yk−1=yk−1,Yk=ykY_{k-1}=y_{k-1},Y_{k}=y_{k}$ のとき、$Wk=k−1kyk−yk−1,W_{k}=\dfrac{k-1}{k}y_{k}-y_{k-1},$ $∣∂∂yk−1(k−1kyk−yk−1)∣=1\left| \dfrac{\partial}{\partial y_{k-1}} \left(\dfrac{k-1}{k}y_{k}-y_{k-1} \right) \right|=1$ である。

ゆえに、$Yk−1∣Yk=ykY_{k-1}|Y_{k}=y_{k}$ の確率関数は

$$P(Yk−1=yk−1∣Yk=yk)=P(Yk−1=yk−1,Yk=yk)P(Yk=yk)=P(Wk=k−1kyk−yk−1,Yk=yk)P(Yk=yk)=P(Wk=k−1kyk−yk−1)P(Yk=yk)P(Yk=yk)=P(Wk=k−1kyk−yk−1)\begin{aligned} P(Y_{k-1}=y_{k-1}|Y_{k}=y_{k}) &=\dfrac{P(Y_{k-1}=y_{k-1},Y_{k}=y_{k})}{P(Y_{k}=y_{k})}\\ &=\dfrac{P\left(W_{k}=\dfrac{k-1}{k}y_{k}-y_{k-1},Y_{k}=y_{k} \right)} {P(Y_{k}=y_{k})}\\ &=\dfrac{P\left(W_{k}=\dfrac{k-1}{k}y_{k}-y_{k-1}\right) P(Y_{k}=y_{k} )} {P(Y_{k}=y_{k})}\\ &=P\left(W_{k}=\dfrac{k-1}{k}y_{k}-y_{k-1}\right) \\ \end{aligned}$$

[3] の $W1W_{1}$ と同様にして $Wk∼N(0,k−1kσ2)W_{k} \sim N\left(0,\dfrac{k-1}{k}\sigma^{2} \right)$ である。
よって、

$$Yk−1∣Yk=yk ∼N(k−1kyk,k−1kσ2)Y_{k-1}|Y_{k}=y_{k}\ \sim N\left( \dfrac{k-1}{k}y_{k}, \dfrac{k-1}{k}\sigma^{2} \right)$$

[4]

今回は $Yk−1Y_{k-1}$ を残し、$YkY_{k}$ を $Xk=Yk−Yk−1X_{k}=Y_{k}-Y_{k-1}$ に変換する。また、$∣∂∂yk(yk−yk−1)∣=1\left| \dfrac{\partial}{\partial y_{k}} \left(y_{k}-y_{k-1} \right) \right|=1$ である。
$fk−1(yk−1∣yk)f_{k-1}(y_{k-1}|y_{k})$ については、

$$fk−1(yk−1∣yk)=P(Yk−1=yk−1,Yk=yk)P(Yk=yk)=P(Yk−1=yk−1,Xk=yk−yk−1)P(Yk=yk)=P(Yk−1=yk−1)P(Xk=yk−yk−1)P(Yk=yk)\begin{aligned} f_{k-1}(y_{k-1}|y_{k}) &=\dfrac{P(Y_{k-1}=y_{k-1},Y_{k}=y_{k})}{P(Y_{k}=y_{k})}\\ &=\dfrac{P(Y_{k-1}=y_{k-1},X_{k}=y_{k}-y_{k-1})}{P(Y_{k}=y_{k})}\\ &=\dfrac{P(Y_{k-1}=y_{k-1})P(X_{k}=y_{k}-y_{k-1})}{P(Y_{k}=y_{k})}\\ \end{aligned}$$

となる。また、$gn(yn)g_{n}(y_{n})$ については以下のように表せる。

$$gn(yn)=P(Yn=yn)g_{n}(y_{n})=P(Y_{n}=y_{n})$$

ゆえに、

$${∏k=2nfk−1(yk−1∣yk)}gn(yn)=P(Y1=y1)P(X2=y2−y1)P(Y2=y2)P(Y2=y2)P(X3=y3−y2)P(Y3=y3)⋯P(Yn−1=yn−1)P(Xn=yn−yn−1)P(Yn=yn)P(Yn=yn)=P(Y1=y1){∏k=2nP(Xk=yk−yk−1)}\begin{aligned} \Bigg\{ \prod_{k=2}^{n} & f_{k-1}(y_{k-1}|y_{k}) \Bigg\} g_{n}(y_{n})\\ &=\dfrac{P(Y_{1}=y_{1})P(X_{2}=y_{2}-y_{1})}{P(Y_{2}=y_{2})} \dfrac{P(Y_{2}=y_{2})P(X_{3}=y_{3}-y_{2})}{P(Y_{3}=y_{3})} \cdots \dfrac{P(Y_{n-1}=y_{n-1})P(X_{n}=y_{n}-y_{n-1})}{P(Y_{n}=y_{n})} P(Y_{n}=y_{n}) \\ &= P(Y_{1}=y_{1}) \left\{ \prod_{k=2}^{n} P(X_{k}=y_{k}-y_{k-1}) \right\} \end{aligned}$$

ここで、$Y1=X1,y1=x1,yk−yk−1=xk(k=2, … ,n)Y_{1}=X_{1},y_{1}=x_{1},y_{k}-y_{k-1}=x_{k}(k=2,\ \dots\ ,n)$ と置き換えれば、

$${∏k=2nfk−1(yk−1∣yk)}gn(yn)={∏k=1nP(Xk=xk)}\begin{aligned} \Bigg\{ \prod_{k=2}^{n} & f_{k-1}(y_{k-1}|y_{k}) \Bigg\} g_{n}(y_{n}) = \left\{ \prod_{k=1}^{n} P(X_{k}=x_{k}) \right\} \end{aligned}$$

となる。以上より、${∏k=2nfk−1(yk−1∣yk)}gn(yn)\left\{ \prod_{k=2}^{n} f_{k-1}(y_{k-1}|y_{k}) \right\} g_{n}(y_{n})$ は $X1, …, XnX_{1},\ \dots,\ X_{n}$ の同時分布の確率密度関数となる。