2019年統計応用 社会科学問3（理工問4）[2]

※以下は、統計検定1級 2019年 統計応用 社会科学問3（理工問4）の[2]を実用性を一切無視して回りくどく解いたものです。

問題の概要

自己回帰(AR(1))モデルとその自己共分散行列が与えられていた時に、それを誤差項分散で割ったものの逆行列とさらにその行列式を求めよ、というもの。

解答例

AR(1)モデル X_t = c + \phi X_{t-1} + \varepsilon_t （ただし |\phi|<1、\varepsilon_t \sim N(0, \sigma^2)）に従う従う時系列データ (X_1, X_2, ..., X_n) の自己共分散行列は、

\boldsymbol{T} = \frac{\sigma^2}{1 - \phi^2} \begin{pmatrix} 1 & \phi & \phi^2 & \cdots & \phi^{n-1}\\ \phi & 1 & \phi & \cdots & \phi^{n-2}\\ \vdots & \vdots & \vdots & \cdots & \vdots\\ \phi^{n-1} & \phi^{n-2} & \phi^{n-3} & \cdots & 1 \end{pmatrix}

で与えられる。

ここで、\boldsymbol{X} = (X_1, X_2, ..., X_n)^\top の同時確率密度分布関数を f(X_1, X_2, ..., X_n; \boldsymbol{\theta}) とおく（\boldsymbol{\theta} = (c, \phi, \sigma^2)）。

この時、\boldsymbol{\mu} = (c/(1-\phi), c/(1-\phi), ..., c/(1-\phi))^\top と置くと、

E[\boldsymbol{X}] = \boldsymbol{\mu}, \quad V[\boldsymbol{X}] = \boldsymbol{T}

であるので、

f(X_1, X_2, ..., X_n; \boldsymbol{\theta}) = \frac{1}{(2\pi)^{\frac{n}{2}}} |\boldsymbol{T}^{-1}|^{\frac{1}{2}} \exp \left\{ -\frac{1}{2}(\boldsymbol{X} - \boldsymbol{\mu})^\top \boldsymbol{T}^{-1} (\boldsymbol{X} - \boldsymbol{\mu}) \right\} \tag{1}

と表すことができる。

一方で、f(X_1, X_2, ..., X_n; \boldsymbol{\theta}) を次のように表すこともできる：

\begin{aligned} f(X_1, X_2, ..., X_n; \boldsymbol{\theta}) &= f(X_n \vert X_{n-1}; \boldsymbol{\theta}) f(X_{n-1} \vert X_{n-2}; \boldsymbol{\theta}) \cdot ... \cdot f(X_2 \vert X_1; \boldsymbol{\theta})f(X_1; \boldsymbol{\theta})\\ &=f(X_1; \boldsymbol{\theta}) \prod_{t=2}^n f(X_t \vert X_{t-1}; \boldsymbol{\theta}). \end{aligned}

ここで、

f(X_1; \boldsymbol{\theta}) = \frac{1}{\sqrt{2\pi \frac{\sigma^2}{1 - \phi^2}}} \exp \left\{ - \frac{1}{2} \frac{(X_1 - \mu)^2}{\frac{\sigma^2}{1-\phi^2}}\right\}

f(X_t \vert X_{t-1}; \boldsymbol{\theta}) = \frac{1}{\sqrt{2\pi \sigma^2}} \exp \left[ - \frac{\{(X_t - \mu) - \phi (X_{t-1}-\mu)\}^2}{2 \sigma^2} \right]

であるので、これらを代入して、

\begin{aligned} f(X_1, X_2, ..., X_n; \boldsymbol{\theta}) &= \frac{1}{(2\pi)^{\frac{n}{2}}} \frac{(1 - \phi^2)^{\frac{1}{2}}}{(\sigma^2)^{\frac{n}{2}}} \exp \left[ -\frac{1}{2} \frac{(1-\phi^2) (X_1 - \mu)^2}{\sigma^2}- \frac{1}{2} \sum_{t=2}^n \frac{\{(X_t - \mu) - \phi (X_{t-1}-\mu)\}^2}{\sigma^2} \right]\\ &= \frac{1}{(2\pi)^{\frac{n}{2}}} \frac{(1 - \phi^2)^{\frac{1}{2}}}{(\sigma^2)^{\frac{n}{2}}} \exp \left\{ -\frac{1}{2} \frac{\boldsymbol{Y}^\top \boldsymbol{Y}}{\sigma^2} \right\}. \tag{2} \end{aligned}

ただし、

\boldsymbol{Y} = \begin{pmatrix} \sqrt{1 - \phi^2}(X_1 - \mu)\\ (X_2 - \mu) - \phi (X_1 - \mu)\\ (X_3 - \mu) - \phi (X_2 - \mu)\\ \vdots\\ (X_n - \mu) - \phi (X_{n-1} - \mu) \end{pmatrix}

と置いた。
ここで行列

\boldsymbol{L} = \begin{pmatrix} \sqrt{1 - \phi^2} & 0 & 0 & \cdots & 0 & 0\\ -\phi & 1 & 0 & \cdots & 0 & 0\\ 0 & -\phi & 1 & \cdots & 0 & 0\\ \vdots & \vdots & \vdots & \cdots & \vdots & \vdots\\ 0 & 0 & 0 & \cdots & 1 & 0\\ 0 & 0 & 0 & \cdots & -\phi & 1 \end{pmatrix}

を用いることで \boldsymbol{Y} = \boldsymbol{L} (\boldsymbol{X} - \boldsymbol{\mu}) と表すことができる。
またこのとき、

|\boldsymbol{L}| = \sqrt{1 - \phi^2}

より、

|\boldsymbol{L}^\top \boldsymbol{L}| = 1 - \phi^2 \tag{3}

となる。
以上を再度式(2)に代入すると、以下のように表すことができる。

\begin{aligned} f(X_1, X_2, ..., X_n; \boldsymbol{\theta}) &= \frac{1}{(2\pi)^{\frac{n}{2}}} \frac{|\boldsymbol{L}^\top \boldsymbol{L}|^{\frac{1}{2}}}{(\sigma^2)^{\frac{n}{2}}} \exp \left\{ -\frac{1}{2} \frac{(\boldsymbol{X} - \boldsymbol{\mu})^\top \boldsymbol{L}^\top \boldsymbol{L} (\boldsymbol{X} - \boldsymbol{\mu})}{\sigma^2} \right\}. \tag{4} \end{aligned}

式(1)と式(4)を比べることで、

\boldsymbol{T}^{-1} = \frac{1}{\sigma^2} \boldsymbol{L}^\top \boldsymbol{L}

つまり

\left( \frac{1}{\sigma^2} \boldsymbol{T} \right)^{-1} = \boldsymbol{L}^\top \boldsymbol{L}

が成り立つことがわかる。
なお、

\begin{aligned} \boldsymbol{L}^\top \boldsymbol{L} &= \begin{pmatrix} \sqrt{1 - \phi^2} & -\phi & 0 & \cdots & 0 & 0\\ 0 & 1 & -\phi & \cdots & 0 & 0\\ 0 & 0 & 1 & \cdots & 0 & 0\\ \vdots & \vdots & \vdots & \cdots & \vdots & \vdots\\ 0 & 0 & 0 & \cdots & 1 & -\phi \\ 0 & 0 & 0 & \cdots & 0 & 1 \end{pmatrix} \begin{pmatrix} \sqrt{1 - \phi^2} & 0 & 0 & \cdots & 0 & 0\\ -\phi & 1 & 0 & \cdots & 0 & 0\\ 0 & -\phi & 1 & \cdots & 0 & 0\\ \vdots & \vdots & \vdots & \cdots & \vdots & \vdots\\ 0 & 0 & 0 & \cdots & 1 & 0\\ 0 & 0 & 0 & \cdots & -\phi & 1 \end{pmatrix}\\ &= \begin{pmatrix} 1 & -\phi & 0 & \cdots & 0 & 0\\ -\phi & 1 + \phi^2 & -\phi & \cdots & 0 & 0\\ 0 & -\phi & 1 + \phi^2 & \cdots & 0 & 0\\ \vdots & \vdots & \vdots & \cdots & \vdots & \vdots\\ 0 & 0 & 0 & \cdots & -\phi & 0\\ 0 & 0 & 0 & \cdots & 1 + \phi^2 & -\phi\\ 0 & 0 & 0 & \cdots & - \phi & 1 \end{pmatrix}\\ &= \boldsymbol{A} \end{aligned}

となるので、以上より

(i) \boldsymbol{A} が \frac{1}{\sigma^2} \boldsymbol{T} の逆行列であることが示された。

(ii) 式(3) より、|\boldsymbol{A}| = 1 - \phi^2

参考文献

• 日本統計学会編, 日本統計学会公式認定　統計検定１級　公式問題集［2019～2022年］（実務教育出版, 2023）

https://amzn.asia/d/5DyX65h

• J.D.Hamilton, Time Series Analysis (Princeton Univ Pr, 1994)

https://amzn.asia/d/dHAwb2G