【統計検定準1級】確率変数の収束

はじめに

この記事では、統計検定準1級取得に向けて学習したことをまとめていきます。
工学系の数学ではなく数理あるあるの、論述ゴリゴリな解答になっていると思いますのであらかじめご了承ください。
注意：さらに計算過程は数学文化の『省略の美』を無視してエレファントに書いています。

【リンク紹介】
・統計検定準1級のまとめ記事一覧
・これまで書いたシリーズ記事一覧

学習書籍について

この記事では「統計学実践ワークブック」を中心に、学んだことをまとめていきます。記事を読んで本格的に勉強してみたいなと思った方は、是非ご購入を検討なさってください。

参考書籍について

この記事では他の記事と異なり、「数理統計学：統計的推論の基礎」を参考にしています。普段は主に「統計学入門」で学んでいるのですが、今回は定理の証明が関わっているため、こちらの本を中心に学習しました。

※この本はゴリゴリの専門書です。大学数学の基礎が身についていないと読めない書籍なので、買う場合はご注意ください。文系さんは多分卒倒します…。

前提知識の定義

$x,yx, y \hspace{5mm}$ ：変数
$X,YX, Y \hspace{2.9mm}$ ：確率変数 ※ただし、連続型であるとする
$f(x)f(x) \hspace{3.6mm}$ ：$XX$の確率密度関数
$E[X]E[X] \hspace{2.1mm}$ ：$XX$の期待値

確率収束

${Xn:n=1,2,⋯ }(={X1,X2,⋯ })\{ X_n : n = 1, 2, \cdots \} (= \{ X_1, X_2, \cdots \})$を確率変数列とする。このとき、確率変数列${Xn:n=1,2,⋯ }\{ X_n : n = 1, 2, \cdots \}$がある確率変数$YY$に確率収束する(convergence in probability)とは、

すべての$ε>0\varepsilon > 0$に対して、

$$lim⁡n→∞P(∣Xn−Y∣≧ε)=0 \lim_{n \to \infty} P(|X_n - Y| \geqq \varepsilon) = 0$$

が、成り立つことである。

平均p乗収束

確率変数列${Xn:n=1,2,⋯ }\{ X_n : n = 1, 2, \cdots \}$が確率変数$YY$へ平均$pp$乗収束する(convergence in the $pp$-th mean)とは、以下の式が成り立つことである。

$$lim⁡n→∞E[∣Xn−Y∣p]=0 \lim_{n \to \infty} E[|X_n - Y|^p] = 0$$

平均p乗誤差

また、上式の

$$E[∣Xn−Y∣p] E[|X_n - Y|^p]$$

を、平均$pp$乗誤差(the $pp$-th mean error)という。

定理：平均p乗収束⇒確率収束

定理

確率変数列${Xn:n=1,2,⋯ }\{ X_n : n = 1, 2, \cdots \}$が確率変数$YY$へ平均$pp$乗収束するならば、
確率変数列${Xn:n=1,2,⋯ }\{ X_n : n = 1, 2, \cdots \}$は確率変数$YY$へ確率収束する

証明

（証明）

※定理の一番外側の論理が「ならば」である。つまり「命題Aならば命題B」の形をしているため、命題Aを仮定し、命題Bを証明していく。

確率変数列${Xn:n=1,2,⋯ }\{ X_n : n = 1, 2, \cdots \}$が確率変数$YY$へ平均$pp$乗収束すると仮定し、
確率変数列${Xn:n=1,2,⋯ }\{ X_n : n = 1, 2, \cdots \}$は確率変数$YY$へ確率収束することを示せばよい。

つまり、すべての$ε>0\varepsilon > 0$に対して、

$$lim⁡n→∞P(∣Xn−Y∣≧ε)=0 \lim_{n \to \infty} P(|X_n - Y| \geqq \varepsilon) = 0$$

が、成り立つことを示す。そのために、
任意に$ε>0\varepsilon > 0$を固定し、

$$lim⁡n→∞P(∣Xn−Y∣≧ε)=0 \lim_{n \to \infty} P(|X_n - Y| \geqq \varepsilon) = 0$$

が成り立つことを示す。ここで、

$$E[∣Xn−Y∣p]=∫−∞∞∣xn−Y∣pf(xn)dxn=∫∣xn−Y∣<ε∣xn−Y∣pf(xn)dxn+∫∣xn−Y∣≧ε∣xn−Y∣pf(xn)dxn≧∫∣xn−Y∣≧ε∣xn−Y∣pf(xn)dxn≧∫∣xn−Y∣≧εεpf(xn)dxn=εp∫∣xn−Y∣≧εf(xn)dxn=εpP(∣Xn−Y∣≧ε) \begin{alignat*}{2} & E[|X_n - Y|^p] \\ =& \int_{- \infty}^{\infty} |x_n - Y|^p f(x_n) dx_n \\ =& \int_{|x_n - Y| < \varepsilon} |x_n - Y|^p f(x_n) dx_n + \int_{|x_n - Y| \geqq \varepsilon} |x_n - Y|^p f(x_n) dx_n \\ \geqq& \int_{|x_n - Y| \geqq \varepsilon} |x_n - Y|^p f(x_n) dx_n \\ \geqq& \int_{|x_n - Y| \geqq \varepsilon} {\varepsilon}^p f(x_n) dx_n \\ =& {\varepsilon}^p \int_{|x_n - Y| \geqq \varepsilon} f(x_n) dx_n \\ =& {\varepsilon}^p P(|X_n - Y| \geqq \varepsilon) \end{alignat*}$$

である。つまり

$$E[∣Xn−Y∣p]≧εpP(∣Xn−Y∣≧ε)P(∣Xn−Y∣≧ε)≦E[∣Xn−Y∣p]εp(∵ε>0) \begin{alignat*}{2} E[|X_n - Y|^p] &\geqq {\varepsilon}^p P(|X_n - Y| \geqq \varepsilon) \\ P(|X_n - Y| \geqq \varepsilon) &\leqq \cfrac{E[|X_n - Y|^p]}{{\varepsilon}^p} \hspace{5mm}(\because \varepsilon > 0) \end{alignat*}$$

であるから、

$$lim⁡n→∞P(∣Xn−Y∣≧ε)≦lim⁡n→∞E[∣Xn−Y∣p]εp \lim_{n \to \infty} P(|X_n - Y| \geqq \varepsilon) \leqq \lim_{n \to \infty} \cfrac{E[|X_n - Y|^p]}{{\varepsilon}^p}$$

について、仮定（「確率変数列${Xn:n=1,2,⋯ }\{ X_n : n = 1, 2, \cdots \}$が確率変数$YY$へ平均$pp$乗収束する」こと！）より

$$lim⁡n→∞E[∣Xn−Y∣p]=0 \lim_{n \to \infty} E[|X_n - Y|^p] = 0$$

であり、かつ

$$lim⁡n→∞εp=εp \lim_{n \to \infty} {\varepsilon}^p = {\varepsilon}^p$$

であるため、

$$lim⁡n→∞P(∣Xn−Y∣≧ε)≦0εp=0 \begin{alignat*}{2} \lim_{n \to \infty} P(|X_n - Y| \geqq \varepsilon) \leqq & \cfrac{0}{{\varepsilon}^p} \\ = & 0 \end{alignat*}$$

つまり、

$$lim⁡n→∞P(∣Xn−Y∣≧ε)≧0 \lim_{n \to \infty} P(|X_n - Y| \geqq \varepsilon) \geqq 0$$

である。

(証明終?)

参考にした「数理統計学：統計的推論の基礎」では、証明はここで終わっていました。ただ今回の証明では、証明すべきものは、

$$lim⁡n→∞P(∣Xn−Y∣≧ε)=0⋯① \lim_{n \to \infty} P(|X_n - Y| \geqq \varepsilon) = 0 \hspace{5mm} \cdots ①$$

であると宣言していました。しかし実際には

$$lim⁡n→∞P(∣Xn−Y∣≧ε)≧0⋯② \lim_{n \to \infty} P(|X_n - Y| \geqq \varepsilon) \geqq 0 \hspace{5mm} \cdots ②$$

として証明を終わらせています。これは何を意味するかというと、「②から①が導けることは自明であるため、記述の必要はない」ということです。まぁ、優秀な方々からすれば自明なのでしょうが、私は凡人なのであえて記述しますね。

つまりこういうことです。$P(∣Xn−Y∣≧ε)P(|X_n - Y| \geqq \varepsilon)$は確率であるため、確率の定義より

$$0≦P(∣Xn−Y∣≧ε)≦1⋯③ 0 \leqq P(|X_n - Y| \geqq \varepsilon) \leqq 1 \hspace{5mm} \cdots ③$$

という不等式が成り立ちます。この②と③を同時に満たす条件を考えると①が導けるというわけです。（０以下であり０以上である数字はなーんだ？って言われたらねぇ…０でしょ 笑）

…まぁ実際に記述すると本当に簡単で「自明」ではありますが、数学界隈の皆さんなら一度くらいは「自明でない自明」で苦しんだ経験はあるのではないでしょうか？笑

数学は略す文化ではありますが、一人くらい略さないヤツがいてもいいかな？と思ったりします 笑

参考資料

• 日本統計学会(編集).日本統計学会認定 統計検定準１級対応 統計学実践ワークブック.学術図書出版社.2020
• 東京大学教養学部統計学教室.統計学入門(基礎統計学Ⅰ).東京大学出版会.1991
• 小寺 平治.新統計入門.裳華房.1996
• 稲垣 宣生, 山根 芳知, 吉田 光雄.統計学入門.裳華房.1992
• 長瀬道弘・芦野隆一.微分積分概説.サイエンス社.2007
• 加藤文元.チャート式シリーズ 大学教養 微分積分.数研出版.2024
• 谷合廣紀.Pythonで理解する東海解析の基礎.技術評論社.2018
• 黒木学.数理統計学：統計的推論の基礎.共立出版.2020

$記事が役に立った方は「いいね」を押していただけると、すごく喜びます 笑\bf{\textcolor{red}{記事が役に立った方は「いいね」を押していただけると、すごく喜びます \ 笑}}$
ご協力のほどよろしくお願いします☆