[統計学] 数理統計学の主要な概念の定義一覧
定義
-
確率実験(random experiment)
- 偶然性を伴った試行あるいは観測.
-
全事象
-
一つの確率実験に対し, 起こり得る結果の全体を全事象といい,
で表す.\Omega -
ex: サイコロを振ったときの全事象
\Omega=\{1,2,3,4,5,6\}
-
-
事象
- 標本空間・全事象の部分集合を事象といい以下で表す.
-
.A \subset \Omega - 定義より事象は集合であるから, 和集合や積集合, 補集合(complement), 差集合(relative complement)を考えることが出来る. 特に積集合を積事象(intersection), 和集合を和事象(union)という.
- また, 事象
がA, B であるとき,A \cap B = \empty は互いに排反(disjoint)という.A, B
-
確率
- 全事象
とその可測集合族\Omega に対する可測空間\mathcal{B} 上の確率とは以下を満たす測度である.(\Omega, \mathcal{B}) -
.P(A):\mu(\Omega)=1 - また, 三つ組
を確率空間という.(\Omega, \mathcal{B}, P)
- 全事象
-
確率変数
-
確率空間
のもとで(\Omega, \mathcal{B}, P) を実数に対応づける関数\omega \in \Omega , つまりX(\cdot): X(\omega) \in \R を確率変数(random variable)という. 任意の実数\omega\longmapsto X(\omega) に対してx である確率は, 以下の様にしてX \leq x 上で定義された確率(\Omega, \mathcal{B}) を用いて与えることが出来る.P P(X \leq x) = P(\bigl\{ \omega \in \Omega | X(\omega) \leq x \bigr\}) -
ただし, 以下が成り立っている必要があることに注意する.
\forall x\in\R, \; \bigl\{ \omega \in \Omega | X(\omega) \leq x \bigr\} \in \mathcal{B} -
なお, これより先については便宜上成り立っていることとする.
-
-
標本空間
-
1つの
に対して\omega \in \Omega なるX(\omega) = x の値が定まる. このX を実現値といいその全体の集合x を\mathcal{X} の標本空間(sample space)という.X -
全事象にたいして以下が標本空間となる.
\mathcal{X} = \bigl\{X(\omega)|\omega \in \Omega\bigr\}
-
-
累積分布関数
-
確率変数
の累積分布関数(cumulative distribution function: 以下cdf)を以下の様に定義する.X F_X(x) = P(X \leq x) -
関数
がある確率変数の分布関数になる為の必要十分条件は次の3つの条件が成り立つことである.F(x) \begin{align*} &(a)\quad\lim_{x \rightarrow -\infty}F(x) = 0, \quad \lim_{x \rightarrow \infty}F(x) =1\\ &(b)\quad \forall x_k <x_j, F(x_k) < F(x_j) \\ &(c)\quad \forall a, \lim_{x \rightarrow a+} F(x) =F(a) \end{align*} -
(b)である関数のことを非減少関数, (c)が成り立つ関数のことを右連続関数であるという.
-
左連続が言えない例として, 累積分布関数が階段関数になる例が存在する. 累積分布関数が階段関数になる確率変数のことを離散型確率変数という.
-
ある確率変数
の累積分布関数がX であるときF はX に従う(F )という.X \:\text{is according to}\; F
-
-
離散型確率変数・連続型確率変数
- 累積分布関数が階段関数である確率変数を離散型確率変数(discrete random variable)といい, 連続型である確率変数を連続型確率変数(continueous random variable)という.
- discreteという単語は離散という意味であり, 他の統計の用語にもたびたび出現する. (離散積分など)
-
確率関数・確率密度関数
-
累積分布関数では
を求めていたが, ある一点についての確率を考える. 離散型確率変数について確率関数(probability mass function: 以下pmf)を以下のように定義することができる.P(X\leq x) \begin{align*} \mathcal{X} &= \big\{ x_1, x_2,\cdots\big\},\; x_1<x_2,\cdots\\ \\ f_X(x)&= \begin{cases} p(x_i)&(x=x_i)\\ 0&(x \notin \mathcal{X}) \end{cases} \\ \\ p(x_i) &= P(X=x_i) \\ &= P( \omega \in \Omega\;|\;X(\omega)=x_i)\\ &= P(\omega\in \Omega \;|\;X(\omega)\leq x_i)-P(\omega\in \Omega \;|\;X(\omega)\leq x_{i-1})\\ &= F_X(X_i)-F_X(X_{i-1}) \end{align*} -
連続型変数の場合1点の測度が0なので, 離散型の確率関数のように定義することが出来ない. そこで一点に対してではなく微小領域を定義することで確率関数のような関数を構成する.
F_X(x) = \int_{-\infty}^xf_X(t) dt, \quad -\infty < x < \infty -
このような関数
が存在するとき,f_X(x) を確率密度関数(probability density function: 以下pdf)という.f_X(x)
-
補足
確率
確率について測度の議論を前提としたため補足する.
-
(ルベーグ)外測度
- 外測度の定義は以下である.
-
.m_*(A) = \mathbf{inf} Z_A -
.\text{Where} \; Z_A =\big\{\sum_{n=1}^{\infty} l(I_n): I_n \; \text{is section}, A \subset \bigcup_{n=1}^{\infty} I_n \big\} - 説明は省略するが, 外測度は加算劣加法性が成り立つ.
-
.\forall \{E_n\}_{n=1,\cdots} \quad m_*(\bigcup_{n=1}^{\infty} E_n) \leq \sum_{n=1}^{\infty} m_*(E_n) - 逆に言えば加算加法性は成り立たない. そこで加算加法性が成り立つ集合を考える. (加算加法性は下記参照)
-
.i\ne j, \; E_i \cup E_j=\empty, \; m_*(\bigcup_{n=1}^{\infty} E_n) \leq \sum_{n=1}^{\infty} m_*(E_n)
-
ルベーグ可測
-
定義: 集合
がルベーグ可測であるとは以下を満たすことをいう.E \subset \R -
.m_*(A) = m_*(A \cap E) + m_*(A \cap E^c),\; \text{Where} \; E^c \coloneqq \R\setminus E -
集合がルベーグ可測であるとき以下のような性質を持つ. すなわち,
はσ-家宝族であることを意味している.\mathcal{M} -
ただし,
は\mathcal{M} の全てのルベーグ可測な部分集合族.\R \begin{align*} \R &\in \mathcal{M} \\ E &\in \mathcal{M} \Rightarrow E^c \in \mathcal{M} \\ n&=1, \cdots \; E_n \in \mathcal{M}, \;j\ne k, \; E_j \cap E_k=\empty \Rightarrow m_*(\bigcup_{n=1}^\infty E_n) = \sum_{n=1}^\infty m_*(E_n). \end{align*}
-
-
測度
- 任意に与えられた集合
と,\Omega 上の σ-加法族\Omega , そして, 非交差的な集合に対して上記を満たす関数\mathcal{F} を測度という.\mu: \mathcal{F}\rightarrow[0,\infty] - また, このとき3つ組,
を測度空間と呼ぶ.(\Omega, \mathcal{F}, \mu)
- 任意に与えられた集合
Discussion