【統計検定準1級】カイ2乗分布

はじめに

この記事では、統計検定準1級取得に向けて学習したことをまとめていきます。
工学系の数学ではなく数理あるあるの、論述ゴリゴリな解答になっていると思いますのであらかじめご了承ください。
注意：さらに計算過程は数学文化の『省略の美』を無視してエレファントに書いています。

【リンク紹介】
・統計検定準1級のまとめ記事一覧
・これまで書いたシリーズ記事一覧

学習書籍について

この記事では「統計学実践ワークブック」を中心に、学んだことをまとめていきます。記事を読んで本格的に勉強してみたいなと思った方は、是非ご購入を検討なさってください。

参考書籍について

統計実践ワークブックは、大量の知識項目と問題が収められている反面、計算過程や知識背景が大きく省略されているため、知識体系をきちんと学ぶ参考書として東京大学から出版されている名著「統計学入門」を使っています。
※ワークブックとしては素晴らしい質だと思いますが、どうしてもその内容量とページ数の都合上、問題のない範囲で削除されているということです。人によっては1冊で問題ない方もおられると思いますが、私には無理でした。

カイ2乗分布

確率変数$X_i \ (1 \leqq i \leqq n)$が独立でそれぞれ標準正規分布$N(0, 1)$に従うとする。このとき、統計量$Y$を

$$Y = {X_{1}}^{2} + {X_{2}}^{2} + \cdots + {X_{n}}^{2}$$

とおくとき、$Y$の確率密度関数$f$が

$$\begin{alignat*}{2} f(y) &= \cfrac{1}{2^{\frac{n}{2}} \ \Gamma \left( \frac{n}{2} \right)} \ y^{\frac{n}{2} - 1} e^{- \frac{y}{2}} \hspace{5mm} (y > 0) \end{alignat*}$$

であるとき、この確率密度関数$f$を自由度$n$カイ2乗分布(chi-square distribution with n degrees of freedom)といい、$\chi^2 (n)$と表す。ただし、$\Gamma$はガンマ分布のガンマ関数を表し、

$$\Gamma \left( \frac{n}{2} \right) = \int_{0}^{\infty} x^{\frac{n}{2} - 1} e^{-x} dx$$

である。

確率密度関数=確率分布=分布
　統計学は数学の中でも特に、同じ意味なのにいろんな名前を持つものが多いですが、「分布」という言葉はこれまた非常に厄介です。
　結論から言うと、「分布」は「確率関数または確率密度関数」のことを指しています。多くの参考書籍の中では、なぜか同じ文章上で同時に出現する場合も多々ありますが、同じ意味です。※おそらく分布の定義の方が微妙に定義の幅が広いのですが、明らかに同義な使い方をしている場合がほとんどです。
　また、「○○分布」といわれるものはある特定の形の式の確率関数に対して付けられる名称であり、大雑把に言うと確率関数もしくは確率密度関数であることには変わりはありません。様々な分布の定義文を確認してみると、文章が曖昧な表現で書かれており、意味を正確に捉えづらいものが多いですが、意識してみると良いかもしれません。

グラフの描画

コードはこちら

参考資料→Pythonで理解する統計解析の基礎
※参考にはしていますが表記は大分変更しています。

import numpy as np
import matplotlib.pyplot as plt
import japanize_matplotlib                    # グラフ上での日本語表示
from scipy import stats, integrate
from scipy.optimize import minimize_scalar    # 関数の最小値を求める

# 表示桁数を小数点以下第３位に設定
%precision 3

# [Jupyter notebook only]
# グラフ表示を非インタラクティブモード(jupyter notebook内に表示)に設定
# インタラクティブモードだと別ウィンドウで表示される
%matplotlib inline

linestyles = ['-', '--', ':']
colors = ['#006C4F', '#ee7800', '#3155A6']

fig = plt.figure(figsize = (10, 6))
ax  = fig.add_subplot(111)

# 0から20までのサンプルを500個生成
x = np.linspace(0, 20, 500)

for n, ls, color in zip([3, 5, 10], linestyles, colors):

    # 自由度nのカイ二乗分布をインスタンス化
    rv = stats.chi2(n)
    
    ax.plot(x, rv.pdf(x),
            label = f'自由度{n}のカイ二乗分布',
            ls    = ls,
            color = color
           )

ax.legend()
plt.show()

カイ2乗分布の再生性

$m, n$を正の整数とし、確率変数$X, Y$が互いに独立であるとする。このとき、

「$X$が自由度$m$のカイ2乗分布$\chi^2 (m)$に従い、かつ$Y$が自由度$n$のカイ2乗分布$\chi^2 (n)$に従う」
ならば、「$X + Y$が自由度$m + n$のカイ2乗分布$\chi^2 (m + n)$に従う。」

カイ2乗分布の期待値

$E[Y]$：$Y$の期待値

$$E[Y] = n$$

カイ2乗分布の分散

$V[Y]$：$Y$の分散

$$V[Y] = 2n$$

カイ2乗分布のモーメント母関数

$m(\theta) = E[e^{\theta Y}]$：$Y$のモーメント母関数

$$\begin{alignat*}{2} m(\theta) &= E[e^{\theta Y}] \\ &= (1 - 2 \theta)^{- \frac{n}{2}} \hspace{5mm} \left( \theta < \cfrac{1}{ \ 2 \ } \right) \\ \end{alignat*}$$

非心カイ2乗分布

確率変数$X_i \ (1 \leqq i \leqq n)$が独立でそれぞれ正規分布$N(\mu_i, 1)$に従うとする。
統計量$Y$を

$$Y = {X_{1}}^{2} + {X_{2}}^{2} + \cdots + {X_{n}}^{2}$$

とし、

$$\lambda = {\mu_{1}}^{2} + {\mu_{2}}^{2} + \cdots + {\mu_{n}}^{2}$$

とする。このとき$Y$の確率密度関数$f$が

$$\begin{alignat*}{2} f(y) &= \sum_{k = 0}^{\infty} \cfrac{e^{- \frac{\lambda}{2}} \ (\frac{\lambda}{2})^k}{k!} \cdot \cfrac{1}{2^{\frac{n}{2} + k} \ \Gamma(\frac{n}{2} + k)} \ y^{\frac{n}{2} + k - 1} \ e^{- \frac{y}{2}} \hspace{5mm} (y > 0) \end{alignat*}$$

であるとき、この確率密度関数$f$を自由度$n$非心度$\lambda$の非心カイ2乗分布といい、$\chi^2 (n, \lambda)$と表す。ただし、$\Gamma$はガンマ分布のガンマ関数を表し、

$$\Gamma \left( \frac{n}{2} + k \right) = \int_{0}^{\infty} x^{\frac{n}{2} + k - 1} e^{-x} dx$$

である。

※確率密度関数は以下のサイトを参考にしました。
https://pystyle.info/statistics-noncentral-chi-square-distribution/

非心カイ2乗分布の期待値

$E[Y]$：$Y$の期待値

$$E[Y] = n + \lambda$$

非心カイ2乗分布の分散

$V[Y]$：$Y$の分散

$$V[Y] = 2n + 4 \lambda$$

非心カイ2乗分布のモーメント母関数

$m(\theta) = E[e^{\theta Y}]$：$Y$のモーメント母関数

$$\begin{alignat*}{2} m(\theta) &= E[e^{\theta Y}] \\ &= (1 - 2 \theta)^{- \frac{n}{2}} \exp \left( \cfrac{\lambda \theta}{1 - 2 \theta} \right) \hspace{5mm} \left( \theta < \cfrac{1}{ \ 2 \ } \right) \\ \end{alignat*}$$

参考資料

• 日本統計学会(編集).日本統計学会認定 統計検定準１級対応 統計学実践ワークブック.学術図書出版社.2020
• 東京大学教養学部統計学教室.統計学入門(基礎統計学Ⅰ).東京大学出版会.1991
• 小寺 平治.新統計入門.裳華房.1996
• 稲垣 宣生, 山根 芳知, 吉田 光雄.統計学入門.裳華房.1992
• 長瀬道弘・芦野隆一.微分積分概説.サイエンス社.2007
• 加藤文元.チャート式シリーズ 大学教養 微分積分.数研出版.2024

$\bf{\textcolor{red}{記事が役に立った方は「いいね」を押していただけると、すごく喜びます \ 笑}}$
ご協力のほどよろしくお願いします。