はじめに
この記事では，ガンベル分布に従う独立な確率変数の差が，ロジスティック分布に従うことを示す．この性質は，ある人がものを買うかどうか，あるペアが結婚するかどうかなど，ある主体が離散的な選択肢の中から何かを選択する離散選択 (discrete choice) 行動を分析する際に，しばしば用いられるようである．分析のイメージを簡単に述べると，ある人がiという選択をしたときの効用U_iを，
\begin{equation}
U_i = \text{observable}_i + \varepsilon_i
\end{equation}
と分析者にとって観測可能な部分\text{observable}_iと観測不可能な部分\varepsilon_iに分解すれば，次式が成り立つ．
\begin{align}
U_i > U_j &\iff
\text{observable}_i + \varepsilon_i > \text{observable}_j + \varepsilon_j \\
&\iff \varepsilon_j - \varepsilon_i < \text{observable}_i - \text{observable}_j \qquad (j \neq i)
\end{align}
U_i > U_jは選択肢iを選んだときの効用がjよりも大きいことを表すので，選択肢iが選ばれる確率は
\begin{equation}
\Pr(U_i > U_j) = \Pr(\varepsilon_j - \varepsilon_i < \text{observable}_i - \text{observable}_j)
\end{equation}
と累積分布関数の形で書ける．ここで，\varepsilon_i,\varepsilon_jがガンベル分布に従う独立なショック（確率変数）だと仮定すると，この選択確率がロジスティック分布（の累積分布関数）で与えられるというわけだ．
本記事は，離散選択理論の解説記事ではないのでこれ以上深入りしないが，この導入を書くにあたって以下の記事にお世話になった．この場を借りてお礼申し上げます．
https://kefism.hatenablog.com/archive/category/離散選択理論
分布の基本情報
まずは蓑谷 (2010) を参考に，ガンベル極値分布とロジスティック分布の特性を記す．
ガンベル極値分布
同一の分布に従うn個の独立な連続確率変数のなかで，最大値Xの極限分布が極値分布である．極値分布のうち，タイプ１と呼ばれるものがガンベル分布 (Gumbel distribution) である．
ガンベル分布の確率密度関数は
\begin{equation}
f(x) = \frac{1}{\theta}\exp\left(-\frac{x-\mu}{\theta}\right)\exp\left[-\exp\left(-\frac{x-\mu}{\theta}\right)\right] \qquad (-\infty < x < \infty)
\end{equation}
で与えられ，-\infty < \mu < \infty,\ \theta > 0の二つのパラメータで指定される．その累積分布関数は
\begin{equation}
F(x) = \exp\left[-\exp\left(-\frac{x-\mu}{\theta}\right)\right]
\end{equation}
である．モーメント母関数は
\begin{equation}
M_X(t) = E\left[e^{tX}\right] = \exp(\mu t)\Gamma(1-\theta t) \qquad \left(t<\frac{1}{\theta}\right)
\end{equation}
であり，tを虚数itに置き換えることで，特性関数
\begin{equation}
\phi_X(t) = E\left[e^{itX}\right] = \exp(i\mu t)\Gamma(1-i\theta t)
\end{equation}
を得る．
ロジスティック分布
ロジスティック分布 (logistic distribution) の確率密度関数は，
\begin{equation}
f(x) = \frac{\exp(-\frac{x-\mu}{\theta})}{\theta\left[ 1+\exp(-\frac{x-\mu}{\theta}) \right]^2} \qquad (-\infty < x < \infty)
\end{equation}
で与えられ，\mu, \theta > 0の二つのパラメータで指定される．その累積分布関数は，
\begin{equation}
F(x) = 1 - \frac{1}{\left[ 1+\exp(-\frac{x-\mu}{\theta}) \right]}
\end{equation}
である．モーメント母関数は
\begin{align}
M_X(t) &= \exp(\mu t)\Gamma(1-\theta t)(1+\theta t) \\
&= \frac{\pi\theta t\exp(\mu t)}{\sin(\pi\theta t)}
\end{align}
であり，tを虚数itに置き換えることで，特性関数
\begin{equation}
\phi_X(t) = \frac{\exp(i\mu t)i\pi\theta t}{\sin(i\pi\theta t)}
\end{equation}
を得る．
導出
この性質を導くアプローチは二つある．一つは，変数変換（畳み込み）を用いてロジスティック分布の確率密度関数を直接求める方法であり，もう一つはZが従う分布の特性関数とロジスティック分布の特性関数が一致することを確かめる方法である．
変数変換（畳み込み）によるアプローチ
確率分布の差を求める公式として，XとYが独立なら
f_{X-Y}(z) = \int_{-\infty}^\infty dv f_X(z+v)f_Y(v) \tag{convolution}
というf_X(x)とf_Y(y)の畳み込みの形をとった式がある．ただし，f_{X-Y}(\cdot), f_X(\cdot), f_Y(\cdot)はそれぞれX-Y, X, Yの確率密度関数である．まずは\text{(convolution)}を求めるために，累次積分を使う方法とヤコビアンを用いた方法を見ていく．
累次積分による導出
確率変数X,Yの同時確率密度関数をf(x,y)とする．XとYは独立なので，f(x,y)=f_X(x)f_Y(y)である．X-Yの累積分布関数は，
\begin{align}
F_{X-Y}(z) &= \Pr(X-Y\leq z) \\
&= \iint_{u-v\leq z}f(u,v)dudv \\
&= \int_{-\infty}^\infty dv \int_{-\infty}^{z+v} f(u,v)du \\
&= \int_{-\infty}^\infty dv f_Y(v)\int_{-\infty}^{z+v} f_X(u)du.
\end{align}
X-Yの確率密度関数を得るために，累積分布関数をzで微分すると，
\begin{align}
f_{X-Y}(z) &= \frac{d}{dz}F_{X-Y}(z) \\
&= \int_{-\infty}^\infty dv f_Y(v)\frac{d}{dz}\int_{-\infty}^{z+v} f_X(u)du \\
&= \int_{-\infty}^\infty dv f_Y(v)f_X(z+v)
\end{align}
となり，\text{(convolution)}を得る．
ヤコビアンを使った導出
Z=X-Yの確率分布を考える．Z=X-Y,\ V=Yと変数変換すると，x=z+v,\ y=vとなるので，ヤコビアンは
\begin{equation}
J =
\begin{vmatrix}
\displaystyle \frac{\partial x}{\partial z} & \displaystyle \frac{\partial x}{\partial v} \\
\displaystyle \frac{\partial y}{\partial z} & \displaystyle \frac{\partial y}{\partial v}
\end{vmatrix}
=
\begin{vmatrix}
1 & 1 \\
0 & 1
\end{vmatrix}
=1.
\end{equation}
ZとVの同時確率密度関数は，
\begin{align}
f(z,v) &= f(x,y)|J| \\
&= f_X(x)f_Y(y)|J| \\
&= f_X(z+v)f_Y(v)
\end{align}
となる．求めるのはZの分布なので，ZとVの同時確率密度f(z,v)を-\infty<v<\inftyで積分して周辺化すれば良い．
よって，
\begin{equation}
f_Z(z) = \int_{-\infty}^\infty f_X(z+v)f_Y(v)dv
\end{equation}
であり，\text{(convolution)}を得る．
ロジスティック分布の確率密度関数の導出
\text{(convolution)}にガンベル分布の確率密度関数を代入して，
\begin{align*}
f_Z(z) &= \int_{-\infty}^\infty dv f(z+v)f(v) \\
&= \int_{-\infty}^\infty dv
\frac{1}{\theta}\exp\left(-\frac{z+v-\mu}{\theta}\right)\exp\left[-\exp\left(-\frac{z+v-\mu}{\theta}\right)\right]\frac{1}{\theta}\exp\left(-\frac{v-\mu}{\theta}\right)\exp\left[-\exp\left(-\frac{v-\mu}{\theta}\right)\right] \\
&= \frac{1}{\theta^2}\exp\left(-\frac{z}{\theta}\right) \int_{-\infty}^\infty dv
\exp\left(-2\frac{v-\mu}{\theta}\right)\exp\left[-\exp\left(-\frac{v-\mu}{\theta}\right)-\exp\left(-\frac{z+v-\mu}{\theta}\right)\right] \\
&= \frac{1}{\theta^2}\exp\left(-\frac{z}{\theta}\right) \int_{-\infty}^\infty dv
\exp\left(-2\frac{v-\mu}{\theta}\right)\exp\left\{-\exp\left(-\frac{v-\mu}{\theta}\right)\left[1+\exp\left(-\frac{z}{\theta}\right)\right]\right\}.
\end{align*}
ここで，次のような置換積分を行う．
\begin{equation}
t = \exp\left(-\frac{v-\mu}{\theta}\right)\left[1+\exp\left(-\frac{z}{\theta}\right)\right]
\end{equation}
とすると
\begin{equation}
\exp\left(-\frac{v-\mu}{\theta}\right) = t\left[1+\exp\left(-\frac{z}{\theta}\right)\right]^{-1}
\end{equation}
であり，また
\begin{equation}
\frac{dt}{dv} = -\frac{1}{\theta}\exp\left(-\frac{v-\mu}{\theta}\right)\left[1+\exp\left(-\frac{z}{\theta}\right)\right]
\end{equation}
である．積分範囲は
\begin{array}{c|rcc}
v & -\infty & \rightarrow & \infty \\ \hline
t & \infty & \rightarrow & 0
\end{array}
となるので，f_Z(z)は
\begin{align}
f_Z(z) &= \int_{-\infty}^\infty dv f(z+v)f(v) \notag \\
&= \frac{1}{\theta^2}\exp\left(-\frac{z}{\theta}\right) \int_{-\infty}^\infty dv
\exp\left(-2\frac{v-\mu}{\theta}\right)\exp\left\{-\exp\left(-\frac{v-\mu}{\theta}\right)\left[1+\exp\left(-\frac{z}{\theta}\right)\right]\right\} \notag \\
&= \frac{1}{\theta^2}\exp(-\frac{z}{\theta}) \int_{\infty}^0 dt
\left\{-\theta\left[1+\exp\left(-\frac{z}{\theta}\right)\right]^{-1}\right\}\left\{t\left[1+\exp\left(-\frac{z}{\theta}\right)\right]^{-1}\right\}
e^{-t} \\
&= \frac{1}{\theta}\exp\left(-\frac{z}{\theta}\right) \int_{0}^\infty dt
\left[1+\exp\left(-\frac{z}{\theta}\right)\right]^{-2}te^{-t} \\
&= \frac{1}{\theta}\exp\left(-\frac{z}{\theta}\right)\left[1+\exp\left(-\frac{z}{\theta}\right)\right]^{-2}\int_{0}^\infty te^{-t} dt \\
&= \frac{1}{\theta}\exp\left(-\frac{z}{\theta}\right)\left[1+\exp\left(-\frac{z}{\theta}\right)\right]^{-2}\Gamma(2) \\
&= \frac{\exp\left(-\frac{z}{\theta}\right)}{\theta\left[1+\exp\left(-\frac{z}{\theta}\right)\right]^2} \qquad \Bigl(= f_{\text{Logistic}}(z;\mu=0) \Bigr).
\end{align}
以上より，X,Y\overset{\text\small\textrm{iid}}{\sim} \textrm{Gumbel}(\mu,\theta)であるとき，Z=X-Yはパラメータ\mu=0,\thetaのロジスティック分布に従う．
特性関数によるアプローチ
パラメータ-\infty < \mu < \infty,\ \theta > 0のガンベル分布の特性関数は，
\begin{equation}
\phi_X(t) = \exp(i\mu t)\Gamma(1-i\theta t)
\end{equation}
である．X,Y\overset{\text\small\textrm{iid}}{\sim} \textrm{Gumbel}(\mu,\theta)より，Z=X-Yの分布の特性関数は，
\begin{align}
\phi_Z(t) &= \phi_X(t)\phi_Y(-t) \\
&= \exp(i\mu t)\Gamma(1-i\theta t)\exp(-i\mu t)\Gamma(1+i\theta t) \\
&= \Gamma(1-i\theta t)\Gamma(1+i\theta t) \\
&= \Gamma(1-i\theta t)(i\theta t)\Gamma(i\theta t) \qquad(\because\text{ガンマ関数の性質}) \\
&= (i\theta t)\Gamma(i\theta t)\Gamma(1-i\theta t) \\
&= (i\theta t)\frac{\pi}{\sin(i\pi\theta t)} \qquad(\because\text{Euler's reflection formula}).
\end{align}
最後に用いた Euler's reflection formula とは，ガンマ関数\Gamma(z)について
\begin{equation}
\Gamma(z)\Gamma(1-z) = \frac{\pi}{\sin(\pi z)}, \quad z \notin \mathbb{Z}
\end{equation}
が成り立つことをいう．ところで，パラメータ\mu,\theta > 0を持つロジスティック分布の特性関数は
\begin{equation}
\phi_{\text{Logistic}}(t) = \frac{\exp(i\mu t)i\pi\theta t}{\sin(i\pi\theta t)}
\end{equation}
なので，
\begin{equation}
\phi_Z(t) = \frac{i\pi\theta t}{\sin(i\pi\theta t)} = \phi_{\text{Logistic}}(t;\mu=0)
\end{equation}
が成り立つ．
以上より，パラメータ\mu,\thetaのガンベル分布に従う独立な確率変数の差であるZ=X-Yの特性関数が，パラメータ\mu=0,\theta>0のロジスティック分布の特性関数に等しいので，Z=X-Yはパラメータ\mu=0,\theta>0のロジスティック分布に従う．
参考文献
- 蓑谷千凰彦 著, 『統計分布ハンドブック (増補版)』, 朝倉書店, 2010 年.
Discussion