はじめに
今回はワイブル分布の形状パラメータ m m m の最尤推定量 m ^ \hat{m} m ^ を不偏推定量(期待値がパラメータの真値と等しい推定量)とする補正係数に関する補足です。全体で n n n 個のサンプルについて試験を同時に実施し、 r r r 個の観測値が得られた段階で打ち切る場合を考えます。補正係数を求めるために、 最尤推定量 m ^ \hat{m} m ^ の期待値を求める必要がありますが、解析的に求めることができません。本記事では、補正係数の近似式の立式のため、 r r r を一定として、 n n n を無限大とした場合の最尤推定量 m ^ \hat{m} m ^ の期待値が r r − 2 m \dfrac{r}{r-2}m r − 2 r m となることを導出します。導出には変数変換を多用しますので、統計検定の勉強において確率変数の変換の復習となるかもしれません。
形状パラメータ m m m の補正係数の詳細についてはこちら
ワイブル分布の最尤推定量に関する詳細についてはこちら 、
補正係数を用いた最尤推定量の改良方法についてはこちら をご覧ください。
概要
以下、前置きです。
確率変数 X 1 , . . . , X n X_{1},\ ...\ ,X_{n} X 1 , ... , X n は互いに独立に形状パラメータ m m m 、尺度パラメータ η \eta η のワイブル分布 W ( m , η ) W(m,\eta) W ( m , η ) に従い、その確率密度関数を f ( x ) f(x) f ( x ) 、累積分布関数を F ( x ) F(x) F ( x ) とする
X ( 1 ) , . . . , X ( n ) X_{(1)},\ ...\ ,X_{(n)} X ( 1 ) , ... , X ( n ) を X 1 , . . . , X n X_{1},\ ...\ ,X_{n} X 1 , ... , X n の順序統計量とする
( X ( i ) \big(X_{(i)} ( X ( i ) は X 1 , . . . , X n X_{1},\ ...\ ,X_{n} X 1 , ... , X n の中で i i i 番目に小さい確率変数) \big) )
X i X_{i} X i から得られる観測値を x i x_{i} x i 、X ( i ) X_{(i)} X ( i ) から得られる観測値を x ( i ) x_{(i)} x ( i ) とする( i = 1 , . . . , n ) (i=1,\ ...\ ,n) ( i = 1 , ... , n )
打切りについては n n n 個のサンプルの試験において、小さい順に r r r 個の観測値 x ( 1 ) , . . . , x ( r ) x_{(1)},\ ...\ ,x_{(r)} x ( 1 ) , ... , x ( r ) が得られた段階で試験を打ち切ると仮定
また、確率密度関数 f ( x ) f(x) f ( x ) 、累積分布関数 F ( x ) F(x) F ( x ) は
f ( x ) = m η ( x η ) m − 1 exp { − ( x η ) m } F ( x ) = 1 − exp { − ( x η ) m } \begin{aligned}
f(x)&=\dfrac{m}{\eta}\left(\dfrac{x}{\eta} \right)^{m-1}
\exp\left\{-\left(\dfrac{x}{\eta} \right)^{m} \right\} \\
F(x)&=1-\exp\left\{-\left(\dfrac{x}{\eta} \right)^{m} \right\} \\
\end{aligned} f ( x ) F ( x ) = η m ( η x ) m − 1 exp { − ( η x ) m } = 1 − exp { − ( η x ) m }
と表されます。
小さい順に r r r 個の観測値 x ( 1 ) , . . . , x ( r ) x_{(1)},\ ...\ ,x_{(r)} x ( 1 ) , ... , x ( r ) が得られた段階で試験を打ち切るとした場合の形状パラメータ m m m の最尤推定量 m ^ X \hat{m}_{X} m ^ X は以下の式を満たします。
1 m ^ X + 1 r ∑ i = 1 r ln x ( i ) − ∑ i = 1 r x ( i ) m ^ X ln x ( i ) + ( n − r ) x ( r ) m ^ X ln x ( r ) ∑ i = 1 r x ( i ) m ^ X + ( n − r ) x ( r ) m ^ X = 0 \begin{aligned}
\dfrac{1}{\hat{m}_{X}} + \dfrac{1}{r}\sum_{i=1}^{r}\ln{x_{(i)}}
-\dfrac{\sum_{i=1}^{r} x_{(i)}^{\hat{m}_{X}} \ln{x_{(i)}}
+(n-r) x_{(r)}^{\hat{m}_{X}}\ln x_{(r)}}
{\sum_{i=1}^{r} x_{(i)}^{\hat{m}_{X}}
+(n-r) x_{(r)}^{\hat{m}_{X}} } =0
\end{aligned} m ^ X 1 + r 1 i = 1 ∑ r ln x ( i ) − ∑ i = 1 r x ( i ) m ^ X + ( n − r ) x ( r ) m ^ X ∑ i = 1 r x ( i ) m ^ X ln x ( i ) + ( n − r ) x ( r ) m ^ X ln x ( r ) = 0
このとき、r r r を一定として n n n を無限大としたときの最尤推定量の期待値 E [ m ^ X ] E[\hat{m}_{X}] E [ m ^ X ] は以下の式で表すことができます。
lim n → ∞ E [ m ^ X ] = r r − 2 m \begin{aligned}
\lim_{n\to \infty}E[\hat{m}_{X}]=\dfrac{r}{r-2}m
\end{aligned} n → ∞ lim E [ m ^ X ] = r − 2 r m
k r , n = m X ^ m k_{r,n}=\dfrac{\hat{m_{X}}}{m} k r , n = m m X ^ とすると、以下のように表せます。
lim n → ∞ E [ k r , n ] = r r − 2 \begin{aligned}
\lim_{n\to \infty}E[k_{r,n}]=\dfrac{r}{r-2}
\end{aligned} n → ∞ lim E [ k r , n ] = r − 2 r
導出については以下の手順で行います。
r r r 個の観測値が得られた段階で試験を打ち切るとした場合の形状パラメータ m m m の最尤推定量 を求める
n n n を無限大としたときの最尤推定量の期待値を求める
期待値は積分の形で表し、以下の順で変数変換
2.1. Z ( i ) = ( X ( i ) η ) m Z_{(i)} = \left( \dfrac{X_{(i)}}{\eta} \right)^{m} Z ( i ) = ( η X ( i ) ) m として X ( i ) → Z ( i ) X_{(i)} \to Z_{(i)} X ( i ) → Z ( i ) の変数変換
→ Z ( i ) ∼ E x p ( 1 ) \to Z_{(i)} \sim Exp(1) → Z ( i ) ∼ E x p ( 1 ) の順序統計量
2.2. W i = ( n − i + 1 ) ( Z ( i ) − Z ( i − 1 ) ) W_{i}= (n-i+1)(Z_{(i)}-Z_{(i-1)}) W i = ( n − i + 1 ) ( Z ( i ) − Z ( i − 1 ) ) として Z ( i ) → W i Z_{(i)} \to W_{i} Z ( i ) → W i の変数変換 ( Z ( 0 ) = 0 ) (Z_{(0)}=0) ( Z ( 0 ) = 0 )
→ W i ∼ E x p ( 1 ) \to W_{i} \sim Exp(1) → W i ∼ E x p ( 1 ) (互いに独立)
2.3. lim n → ∞ m ^ X \displaystyle \lim_{n \to \infty}\hat m_{X} n → ∞ lim m ^ X を求め、E [ m ^ X ] → lim n → ∞ E [ m ^ X ] E[\hat{m}_{X}] \to\displaystyle \lim_{n \to \infty}E[\hat m_{X}] E [ m ^ X ] → n → ∞ lim E [ m ^ X ] の形に変形し、n n n を除去
2.4. V = W 1 + ⋯ + W r , U ( i ) = ∑ j = 1 i W j V ( i = 1 , . . . , r − 1 ) V=W_{1}+ \cdots +W_{r},\ U_{(i)} = \dfrac{\sum_{j=1}^{i} W_{j}}{V}\hspace{10pt} (i=1,\ ...\ ,r-1) V = W 1 + ⋯ + W r , U ( i ) = V ∑ j = 1 i W j ( i = 1 , ... , r − 1 ) として、
W 1 , . . . , W r → U ( 1 ) , . . . , U ( r − 1 ) , V W_{1},\ ...\ ,W_{r} \to U_{(1)},\ ... \ ,U_{(r-1)}, V W 1 , ... , W r → U ( 1 ) , ... , U ( r − 1 ) , V の変数変換
→ U ( i ) ( 1 , . . . , r − 1 ) ∼ \to U_{(i)} (1,\ ...\ ,r-1) \sim → U ( i ) ( 1 , ... , r − 1 ) ∼ 標準一様分布 U ( 0 , 1 ) U(0,1) U ( 0 , 1 ) の順序統計量、 V ∼ G a m m a ( r , 1 ) V \sim Gamma(r,1) V ∼ G amma ( r , 1 )
2.5. T i = − ln U ( i ) ( i = 2 , . . . , r − 1 ) , S = − ln ( U ( 1 ) ⋯ U ( r − 1 ) ) T_{i} = -\ln U_{(i)}\ (i=2,\ ...\ ,r-1),\ S= - \ln(U_{(1)} \cdots U_{(r-1)}) T i = − ln U ( i ) ( i = 2 , ... , r − 1 ) , S = − ln ( U ( 1 ) ⋯ U ( r − 1 ) ) として、
U ( 1 ) , . . . U ( r − 1 ) → T 2 , . . . , T r − 1 , S U_{(1)},\ ...\ U_{(r-1)} \to T_{2},\ ...\ ,T_{r-1},S U ( 1 ) , ... U ( r − 1 ) → T 2 , ... , T r − 1 , S の変数変換
1. 打ち切りする場合の形状パラメータ m の最尤推定量
まず、 n n n 個の部品の寿命試験において、小さい順に r r r 個の観測値 x ( 1 ) , . . . , x ( r ) x_{(1)},\ ...\ ,x_{(r)} x ( 1 ) , ... , x ( r ) が得られた段階で試験を打ち切る場合の形状パラメータ m m m の最尤推定量を求めます。残りの n − r n-r n − r 個については観測値は得られませんが、小さい順に r r r 番目の観測値 x ( r ) x_{(r)} x ( r ) より大きいという条件があります。
この場合の尤度関数 L ( m , η ) L(m,\eta) L ( m , η ) は
L ( m , η ) = P ( X ( 1 ) = x ( 1 ) , . . . , X ( r ) = x ( r ) , X ( r + 1 ) , . . . , X ( n ) > x ( r ) ) = n P r ( ∏ i = 1 r f ( x ( i ) ) ) { 1 − F ( x ( r ) ) } n − r = n P r ( ∏ i = 1 r m η m x ( i ) m − 1 exp { − ( x ( i ) η ) m } ) exp { − ( n − r ) ( x ( r ) η ) m } = n P r m r η m r ( ∏ i = 1 r x ( i ) m − 1 ) exp { − 1 η m ( ∑ i = 1 r x ( i ) m + ( n − r ) x ( r ) m ) } \begin{aligned}
L(m,\eta)
&= P(X_{(1)}=x_{(1)},\ ...\ ,X_{(r)}=x_{(r)},\ X_{(r+1)},\ ...\ ,X_{(n)} \gt x_{(r)}) \\
&={}_{n}P_{r} \left(\prod_{i=1}^{r} f(x_{(i)}) \right)
\{1-F(x_{(r)})\}^{n-r} \\
&={}_{n}P_{r} \left(\prod_{i=1}^{r} \dfrac{m}{\eta^{m}}x_{(i)}^{m-1} \exp\left\{-\left( \dfrac{x_{(i)}}{\eta} \right)^{m}\right\} \right)
\exp\left\{-(n-r)\left( \dfrac{x_{(r)}}{\eta} \right)^{m}\right\} \\
&={}_{n}P_{r} \dfrac{m^{r}}{\eta^{mr}} \left(\prod_{i=1}^{r} x_{(i)}^{m-1} \right)
\exp\left\{-\dfrac{1}{\eta^{m}}\left(\sum_{i=1}^{r}x_{(i)}^{m} + (n-r)x_{(r)}^{m} \right)\right\} \\
\end{aligned} L ( m , η ) = P ( X ( 1 ) = x ( 1 ) , ... , X ( r ) = x ( r ) , X ( r + 1 ) , ... , X ( n ) > x ( r ) ) = n P r ( i = 1 ∏ r f ( x ( i ) ) ) { 1 − F ( x ( r ) ) } n − r = n P r ( i = 1 ∏ r η m m x ( i ) m − 1 exp { − ( η x ( i ) ) m } ) exp { − ( n − r ) ( η x ( r ) ) m } = n P r η m r m r ( i = 1 ∏ r x ( i ) m − 1 ) exp { − η m 1 ( i = 1 ∑ r x ( i ) m + ( n − r ) x ( r ) m ) }
と表せます。対数尤度関数 l ( m , η ) l(m,\eta) l ( m , η ) については
l ( m , η ) = ln L ( m , η ) = ln n P r + r ln m − m r ln η + ( m − 1 ) ∑ i = 1 r ln x ( i ) − 1 η m ( ∑ i = 1 r x ( i ) m + ( n − r ) x ( r ) m ) \begin{aligned}
l(m,\eta)
&=\ln L(m,\eta) \\
&=\ln {}_{n}P_{r} +r\ln m -mr\ln \eta
+(m-1)\sum_{i=1}^{r} \ln x_{(i)}
-\dfrac{1}{\eta^{m}}\left(\sum_{i=1}^{r}x_{(i)}^{m} + (n-r)x_{(r)}^{m} \right) \\
\end{aligned} l ( m , η ) = ln L ( m , η ) = ln n P r + r ln m − m r ln η + ( m − 1 ) i = 1 ∑ r ln x ( i ) − η m 1 ( i = 1 ∑ r x ( i ) m + ( n − r ) x ( r ) m )
対数尤度関数が最大となる m , η m,\eta m , η を求めると、以下の2式が成り立ちます。
{ ∂ ∂ m ln L ( m , η ) = 0 ∂ ∂ η ln L ( m , η ) = 0 \left\{\begin{aligned}
\dfrac{\partial}{\partial m}\ln{L(m,\eta)} = 0 \\
\dfrac{\partial}{\partial \eta}\ln{L(m,\eta)} = 0 \\
\end{aligned}\right. ⎩ ⎨ ⎧ ∂ m ∂ ln L ( m , η ) = 0 ∂ η ∂ ln L ( m , η ) = 0
η \eta η については
∂ ∂ η ln L ( m , η ) = − m r η + m η m + 1 ( ∑ i = 1 r x ( i ) m + ( n − r ) x ( r ) m ) = m η ( − r + ∑ i = 1 r x ( i ) m + ( n − r ) x ( r ) m η m ) = 0 \begin{aligned}
\dfrac{\partial}{\partial \eta}\ln{L(m,\eta)}
&=-\dfrac{mr}{\eta} +\dfrac{m}{\eta^{m+1}} \left(\sum_{i=1}^{r}x_{(i)}^{m} + (n-r)x_{(r)}^{m} \right) \\
&=\dfrac{m}{\eta} \left(-r + \dfrac{\sum_{i=1}^{r}x_{(i)}^{m} + (n-r)x_{(r)}^{m}}{\eta^{m}} \right) =0\\
\end{aligned} ∂ η ∂ ln L ( m , η ) = − η m r + η m + 1 m ( i = 1 ∑ r x ( i ) m + ( n − r ) x ( r ) m ) = η m ( − r + η m ∑ i = 1 r x ( i ) m + ( n − r ) x ( r ) m ) = 0
よって、
r = ∑ i = 1 r x ( i ) m + ( n − r ) x ( r ) m η m η m = 1 r ( ∑ i = 1 r x ( i ) m + ( n − r ) x ( r ) m ) η = 1 r ( ∑ i = 1 r x ( i ) m + ( n − r ) x ( r ) m ) m \begin{aligned}
r &=\dfrac{\sum_{i=1}^{r}x_{(i)}^{m} + (n-r)x_{(r)}^{m}}{\eta^{m}} \\
\eta^{m} &= \dfrac{1}{r} \left( \sum_{i=1}^{r}x_{(i)}^{m} + (n-r)x_{(r)}^{m} \right) \\
\eta &= \sqrt[\footnotesize m]{\dfrac{1}{r} \left( \sum_{i=1}^{r}x_{(i)}^{m} + (n-r)x_{(r)}^{m} \right)}
\end{aligned} r η m η = η m ∑ i = 1 r x ( i ) m + ( n − r ) x ( r ) m = r 1 ( i = 1 ∑ r x ( i ) m + ( n − r ) x ( r ) m ) = m r 1 ( i = 1 ∑ r x ( i ) m + ( n − r ) x ( r ) m )
m m m については
∂ ∂ m ln L ( m , η ) = r m − r ln η + ∑ i = 1 r ln x ( i ) − { ∑ i = 1 r ( x ( i ) η ) m ln x ( i ) η + ( n − r ) ( x ( r ) η ) m ln x ( r ) η } = r m − r ln η + ∑ i = 1 r ln x ( i ) − 1 η m { ∑ i = 1 r x ( i ) m ln x ( i ) + ( n − r ) x ( r ) m ln x ( r ) − ∑ i = 1 r x ( i ) m ln η − ( n − r ) x ( r ) m ln η } = r m − r ln η + ∑ i = 1 r x ( i ) m + ( n − r ) x ( r ) m η m ln η + ∑ i = 1 r ln x ( i ) − 1 η m { ∑ i = 1 r x ( i ) m ln x ( i ) + ( n − r ) x ( r ) m ln x ( r ) } = r m + ∑ i = 1 r ln x ( i ) − r ∑ i = 1 r x ( i ) m ln x ( i ) + ( n − r ) x ( r ) m ln x ( r ) ∑ i = 1 r x ( i ) m + ( n − r ) x ( r ) m = r ( 1 m + 1 r ∑ i = 1 r ln x ( i ) − ∑ i = 1 r x ( i ) m ln x ( i ) + ( n − r ) x ( r ) m ln x ( r ) ∑ i = 1 r x ( i ) m + ( n − r ) x ( r ) m ) = 0 \begin{aligned}
\dfrac{\partial}{\partial m}\ln{L(m,\eta)}
&=\dfrac{r}{m} -r\ln \eta + \sum_{i=1}^{r}\ln{x_{(i)}}
-\left\{ \sum_{i=1}^{r} \left( \dfrac{x_{(i)}}{\eta}\right)^{m} \ln \dfrac{x_{(i)}}{\eta}
+ (n-r)\left(\dfrac{x_{(r)}}{\eta} \right)^{m}\ln \dfrac{x_{(r)}}{\eta} \right\}\\
&=\dfrac{r}{m} -r\ln \eta + \sum_{i=1}^{r}\ln{x_{(i)}}
-\dfrac{1}{\eta^{m}}\left\{ \sum_{i=1}^{r} x_{(i)}^{m} \ln x_{(i)} + (n-r)x_{(r)}^{m} \ln x_{(r)}
-\sum_{i=1}^{r} x_{(i)}^{m} \ln \eta - (n-r)x_{(r)}^{m} \ln \eta
\right\} \\
&=\dfrac{r}{m} -r\ln \eta + \dfrac{\sum_{i=1}^{r} x_{(i)}^{m} + (n-r)x_{(r)}^{m} }{\eta^{m}} \ln \eta
+ \sum_{i=1}^{r}\ln{x_{(i)}}
-\dfrac{1}{\eta^{m}}\left\{ \sum_{i=1}^{r} x_{(i)}^{m} \ln x_{(i)} + (n-r)x_{(r)}^{m} \ln x_{(r)}
\right\}\\
&=\dfrac{r}{m} + \sum_{i=1}^{r}\ln{x_{(i)}}
-r\dfrac{\sum_{i=1}^{r} x_{(i)}^{m} \ln x_{(i)} + (n-r)x_{(r)}^{m} \ln x_{(r)}}
{\sum_{i=1}^{r}x_{(i)}^{m} + (n-r)x_{(r)}^{m}} \\
&=r\left( \dfrac{1}{m} + \dfrac{1}{r}\sum_{i=1}^{r}\ln{x_{(i)}}
-\dfrac{\sum_{i=1}^{r} x_{(i)}^{m} \ln x_{(i)} + (n-r)x_{(r)}^{m} \ln x_{(r)}}
{\sum_{i=1}^{r}x_{(i)}^{m} + (n-r)x_{(r)}^{m}} \right) = 0\\
\end{aligned} ∂ m ∂ ln L ( m , η ) = m r − r ln η + i = 1 ∑ r ln x ( i ) − { i = 1 ∑ r ( η x ( i ) ) m ln η x ( i ) + ( n − r ) ( η x ( r ) ) m ln η x ( r ) } = m r − r ln η + i = 1 ∑ r ln x ( i ) − η m 1 { i = 1 ∑ r x ( i ) m ln x ( i ) + ( n − r ) x ( r ) m ln x ( r ) − i = 1 ∑ r x ( i ) m ln η − ( n − r ) x ( r ) m ln η } = m r − r ln η + η m ∑ i = 1 r x ( i ) m + ( n − r ) x ( r ) m ln η + i = 1 ∑ r ln x ( i ) − η m 1 { i = 1 ∑ r x ( i ) m ln x ( i ) + ( n − r ) x ( r ) m ln x ( r ) } = m r + i = 1 ∑ r ln x ( i ) − r ∑ i = 1 r x ( i ) m + ( n − r ) x ( r ) m ∑ i = 1 r x ( i ) m ln x ( i ) + ( n − r ) x ( r ) m ln x ( r ) = r ( m 1 + r 1 i = 1 ∑ r ln x ( i ) − ∑ i = 1 r x ( i ) m + ( n − r ) x ( r ) m ∑ i = 1 r x ( i ) m ln x ( i ) + ( n − r ) x ( r ) m ln x ( r ) ) = 0
よって、確率変数 X ( i ) X_{(i)} X ( i ) についての最尤推定量 m ^ X \hat m_{X} m ^ X は以下の式を満たします。
1 m ^ X + 1 r ∑ i = 1 r ln x ( i ) − ∑ i = 1 r x ( i ) m ^ X ln x ( i ) + ( n − r ) x ( r ) m ^ X ln x ( r ) ∑ i = 1 r x ( i ) m ^ X + ( n − r ) x ( r ) m ^ X = 0 \begin{aligned}
\dfrac{1}{\hat m_{X}} + \dfrac{1}{r}\sum_{i=1}^{r}\ln{x_{(i)}}
-\dfrac{\sum_{i=1}^{r} x_{(i)}^{\hat m_{X}} \ln x_{(i)} + (n-r)x_{(r)}^{\hat m_{X}} \ln x_{(r)}}
{\sum_{i=1}^{r}x_{(i)}^{\hat m_{X}} + (n-r)x_{(r)}^{\hat m_{X}}}
= 0 \\
\end{aligned} m ^ X 1 + r 1 i = 1 ∑ r ln x ( i ) − ∑ i = 1 r x ( i ) m ^ X + ( n − r ) x ( r ) m ^ X ∑ i = 1 r x ( i ) m ^ X ln x ( i ) + ( n − r ) x ( r ) m ^ X ln x ( r ) = 0
となります。
2. n を無限大としたときの最尤推定量の期待値
次に、最尤推定量 m ^ X \hat m_{X} m ^ X の期待値 E [ m ^ X ] E[\hat m_{X}] E [ m ^ X ] を求めます。最尤推定量は解析的に解くことができないため、m ^ X \hat m_{X} m ^ X を使用して積分の形で表します。
導出には変数変換を多用します。導出までの流れを以下に記載します。
特記なき場合は i = 1 , . . . , r i=1,\ ...\ ,r i = 1 , ... , r とします。
はじめに、X ( i ) X_{(i)} X ( i ) は形状パラメータ m m m 、 尺度パラメータ η \eta η のワイブル分布 W ( m , η ) W(m,\eta) W ( m , η ) の順序統計量とします。
2.1. Z ( i ) = ( X ( i ) η ) m Z_{(i)} = \left( \dfrac{X_{(i)}}{\eta} \right)^{m} Z ( i ) = ( η X ( i ) ) m として X ( i ) → Z ( i ) X_{(i)} \to Z_{(i)} X ( i ) → Z ( i ) の変数変換
→ Z ( i ) ∼ E x p ( 1 ) \to Z_{(i)} \sim Exp(1) → Z ( i ) ∼ E x p ( 1 ) の順序統計量
2.2. W i = ( n − i + 1 ) ( Z ( i ) − Z ( i − 1 ) ) W_{i}= (n-i+1)(Z_{(i)}-Z_{(i-1)}) W i = ( n − i + 1 ) ( Z ( i ) − Z ( i − 1 ) ) として Z ( i ) → W i Z_{(i)} \to W_{i} Z ( i ) → W i の変数変換 ( Z ( 0 ) = 0 ) (Z_{(0)}=0) ( Z ( 0 ) = 0 )
→ W i ∼ E x p ( 1 ) \to W_{i} \sim Exp(1) → W i ∼ E x p ( 1 ) (互いに独立)
2.3. lim n → ∞ m ^ X \displaystyle \lim_{n \to \infty}\hat m_{X} n → ∞ lim m ^ X を求め、E [ m ^ X ] → lim n → ∞ E [ m ^ X ] E[\hat{m}_{X}] \to\displaystyle \lim_{n \to \infty}E[\hat m_{X}] E [ m ^ X ] → n → ∞ lim E [ m ^ X ] の形に変形し、n n n を除去
2.4. V = W 1 + ⋯ + W r , U ( i ) = ∑ j = 1 i W j V ( i = 1 , . . . , r − 1 ) V=W_{1}+ \cdots +W_{r},\ U_{(i)} = \dfrac{\sum_{j=1}^{i} W_{j}}{V}\hspace{10pt} (i=1,\ ...\ ,r-1) V = W 1 + ⋯ + W r , U ( i ) = V ∑ j = 1 i W j ( i = 1 , ... , r − 1 ) として、
W 1 , . . . , W r → U ( 1 ) , . . . , U ( r − 1 ) , V W_{1},\ ...\ ,W_{r} \to U_{(1)},\ ... \ ,U_{(r-1)}, V W 1 , ... , W r → U ( 1 ) , ... , U ( r − 1 ) , V の変数変換
→ U ( i ) ( 1 , . . . , r − 1 ) ∼ \to U_{(i)} (1,\ ...\ ,r-1) \sim → U ( i ) ( 1 , ... , r − 1 ) ∼ 標準一様分布 U ( 0 , 1 ) U(0,1) U ( 0 , 1 ) の順序統計量、 V ∼ G a m m a ( r , 1 ) V \sim Gamma(r,1) V ∼ G amma ( r , 1 )
2.5. T i = − ln U ( i ) ( i = 2 , . . . , r − 1 ) , S = − ln ( U ( 1 ) ⋯ U ( r − 1 ) ) T_{i} = -\ln U_{(i)}\ (i=2,\ ...\ ,r-1),\ S= - \ln(U_{(1)} \cdots U_{(r-1)}) T i = − ln U ( i ) ( i = 2 , ... , r − 1 ) , S = − ln ( U ( 1 ) ⋯ U ( r − 1 ) ) として、
U ( 1 ) , . . . U ( r − 1 ) → T 2 , . . . , T r − 1 , S U_{(1)},\ ...\ U_{(r-1)} \to T_{2},\ ...\ ,T_{r-1},S U ( 1 ) , ... U ( r − 1 ) → T 2 , ... , T r − 1 , S の変数変換
最尤推定量の m ^ X \hat{m}_{X} m ^ X 期待値 E [ m ^ X ] E[\hat{m}_{X}] E [ m ^ X ] については、
E [ m ^ X ] = ∫ 0 ∞ ⋯ ∫ 0 x ( 2 ) m ^ X L ( m , η ) d x ( 1 ) ⋯ d x ( r ) = ∫ 0 ∞ ⋯ ∫ 0 x ( 2 ) m ^ X n P r ( ∏ i = 1 r m x ( i ) m − 1 η m exp { − ( x ( i ) η ) m } ) exp { − ( n − r ) ( x ( r ) η ) m } d x ( 1 ) ⋯ d x ( r ) = ∫ 0 ∞ ⋯ ∫ 0 x ( 2 ) m ^ X n P r ( ∏ i = 1 r m x ( i ) m − 1 η m ) exp { − 1 η m ( ∑ i = 1 r x ( i ) m + ( n − r ) x ( r ) m ) } d x ( 1 ) ⋯ d x ( r ) \begin{aligned}
E[\hat{m}_{X}]
&=\int_{0}^{\infty} \cdots \int_{0}^{x_{(2)}}
\hat{m}_{X}\ L(m,\eta) \ dx_{(1)} \cdots dx_{(r)} \\
&=\int_{0}^{\infty} \cdots \int_{0}^{x_{(2)}}
\hat{m}_{X}\ {}_{n}P_{r}
\left(\prod_{i=1}^{r} \dfrac{mx_{(i)}^{m-1}}{\eta^{m}} \exp\left\{-\left( \dfrac{x_{(i)}}{\eta} \right)^{m}\right\} \right) \exp\left\{-(n-r)\left( \dfrac{x_{(r)}}{\eta} \right)^{m}\right\} dx_{(1)} \cdots dx_{(r)} \\
&=\int_{0}^{\infty} \cdots \int_{0}^{x_{(2)}}
\hat{m}_{X}\ {}_{n}P_{r} \left(\prod_{i=1}^{r} \dfrac{mx_{(i)}^{m-1}}{\eta^{m}} \right)
\exp\left\{-\dfrac{1}{\eta^{m}}\left(\sum_{i=1}^{r}x_{(i)}^{m} + (n-r)x_{(r)}^{m} \right)\right\} dx_{(1)} \cdots dx_{(r)} \\
\end{aligned} E [ m ^ X ] = ∫ 0 ∞ ⋯ ∫ 0 x ( 2 ) m ^ X L ( m , η ) d x ( 1 ) ⋯ d x ( r ) = ∫ 0 ∞ ⋯ ∫ 0 x ( 2 ) m ^ X n P r ( i = 1 ∏ r η m m x ( i ) m − 1 exp { − ( η x ( i ) ) m } ) exp { − ( n − r ) ( η x ( r ) ) m } d x ( 1 ) ⋯ d x ( r ) = ∫ 0 ∞ ⋯ ∫ 0 x ( 2 ) m ^ X n P r ( i = 1 ∏ r η m m x ( i ) m − 1 ) exp { − η m 1 ( i = 1 ∑ r x ( i ) m + ( n − r ) x ( r ) m ) } d x ( 1 ) ⋯ d x ( r )
と表せます。
2.1. X(i) から Z(i) の変数変換
まず、Z ( i ) = ( X ( i ) η ) m Z_{(i)}= \left( \dfrac{X_{(i)}}{\eta} \right)^{m} Z ( i ) = ( η X ( i ) ) m として X ( i ) → Z ( i ) X_{(i)} \to Z_{(i)} X ( i ) → Z ( i ) と変数変換します。
z ( i ) = ( x ( i ) η ) m ( i = 1 , . . . , r ) z_{(i)} = \left( \dfrac{x_{(i)}}{\eta} \right)^{m} (i=1,\ ...\ ,r) z ( i ) = ( η x ( i ) ) m ( i = 1 , ... , r ) とすると、
J = ∣ ∂ x ( 1 ) ∂ z ( 1 ) ⋯ ∂ x ( r ) ∂ z ( 1 ) ⋮ ⋱ ⋮ ∂ x ( 1 ) ∂ z ( r ) ⋯ ∂ x ( r ) ∂ z ( r ) ∣ = ∂ x ( 1 ) ∂ z ( 1 ) ⋯ ∂ x ( r ) ∂ z ( r ) = 1 ∂ z ( 1 ) ∂ x ( 1 ) ⋯ ∂ z ( r ) ∂ x ( r ) = 1 m x ( 1 ) m − 1 η m ⋯ m x ( r ) m − 1 η m = η m r m x ( 1 ) m − 1 ⋯ m x ( r ) m − 1 = ( ∏ i = 1 r η m m x ( i ) m − 1 ) \begin{aligned}
J&=\begin{vmatrix}
\dfrac{\partial x_{(1)}}{\partial z_{(1)}} & \cdots & \dfrac{\partial x_{(r)}}{\partial z_{(1)}} \\
\vdots & \ddots & \vdots \\
\dfrac{\partial x_{(1)}}{\partial z_{(r)}} & \cdots & \dfrac{\partial x_{(r)}}{\partial z_{(r)}} \\
\end{vmatrix} \\
&=\dfrac{\partial x_{(1)}}{\partial z_{(1)}} \cdots \dfrac{\partial x_{(r)}}{\partial z_{(r)}} \\
&=\dfrac{1}{\dfrac{\partial z_{(1)}}{\partial x_{(1)}} \cdots \dfrac{\partial z_{(r)}}{\partial x_{(r)}}} \\
&=\dfrac{1}{ \dfrac{mx_{(1)}^{m-1}}{\eta^{m}} \cdots \dfrac{mx_{(r)}^{m-1}}{\eta^{m}} } \\
&=\dfrac{\eta^{mr}}{ mx_{(1)}^{m-1} \cdots mx_{(r)}^{m-1}} \\
&=\left( \prod_{i=1}^{r} \dfrac{\eta^{m}}{ mx_{(i)}^{m-1} } \right)\\
\end{aligned} J = ∂ z ( 1 ) ∂ x ( 1 ) ⋮ ∂ z ( r ) ∂ x ( 1 ) ⋯ ⋱ ⋯ ∂ z ( 1 ) ∂ x ( r ) ⋮ ∂ z ( r ) ∂ x ( r ) = ∂ z ( 1 ) ∂ x ( 1 ) ⋯ ∂ z ( r ) ∂ x ( r ) = ∂ x ( 1 ) ∂ z ( 1 ) ⋯ ∂ x ( r ) ∂ z ( r ) 1 = η m m x ( 1 ) m − 1 ⋯ η m m x ( r ) m − 1 1 = m x ( 1 ) m − 1 ⋯ m x ( r ) m − 1 η m r = ( i = 1 ∏ r m x ( i ) m − 1 η m )
となることから、期待値は以下のようになります。
E [ m X ^ ] = ∫ 0 ∞ ⋯ ∫ 0 z ( 2 ) m ^ Z n P r exp { − ( ∑ i = 1 r z ( i ) + ( n − r ) z ( r ) ) } d z ( 1 ) ⋯ d z ( r ) \begin{aligned}
E[\hat{m_{X}}]
&=\int_{0}^{\infty} \cdots \int_{0}^{z_{(2)}} \hat{m}_{Z}\ {}_{n}P_{r}
\exp\left\{-\left(\sum_{i=1}^{r}z_{(i)} + (n-r)z_{(r)} \right)\right\}
dz_{(1)} \cdots dz_{(r)} \\
\end{aligned} E [ m X ^ ] = ∫ 0 ∞ ⋯ ∫ 0 z ( 2 ) m ^ Z n P r exp { − ( i = 1 ∑ r z ( i ) + ( n − r ) z ( r ) ) } d z ( 1 ) ⋯ d z ( r )
2.2. Z(i) から Wi の変数変換
次に W i W_{i} W i を以下のように定義し、Z ( i ) → W i Z_{(i)} \to W_{i} Z ( i ) → W i の変数変換をします。
{ W 1 = n Z ( 1 ) W 2 = ( n − 1 ) ( Z ( 2 ) − Z ( 1 ) ) ⋮ W r = ( n − r + 1 ) ( Z ( r ) − Z ( r − 1 ) ) \left\{\begin{aligned}
W_{1} &= nZ_{(1)} \\
W_{2} &= (n-1) (Z_{(2)} - Z_{(1)}) \\
&\vdots \\
W_{r} &= (n-r+1) (Z_{(r)}- Z_{(r-1)}) \\
\end{aligned}\right. ⎩ ⎨ ⎧ W 1 W 2 W r = n Z ( 1 ) = ( n − 1 ) ( Z ( 2 ) − Z ( 1 ) ) ⋮ = ( n − r + 1 ) ( Z ( r ) − Z ( r − 1 ) )
とすると、
{ Z ( 1 ) = W 1 n Z ( 2 ) = W 1 n + W 2 n − 1 ⋮ Z ( r ) = ∑ i = 1 r W i n − i + 1 \left\{\begin{aligned}
Z_{(1)} &= \dfrac{W_{1}}{n} \\
Z_{(2)} &= \dfrac{W_{1}}{n} + \dfrac{W_{2}}{n-1} \\
&\vdots \\
Z_{(r)} &= \sum_{i=1}^{r} \dfrac{W_{i}}{n-i+1} \\
\end{aligned}\right. ⎩ ⎨ ⎧ Z ( 1 ) Z ( 2 ) Z ( r ) = n W 1 = n W 1 + n − 1 W 2 ⋮ = i = 1 ∑ r n − i + 1 W i
J = ∣ ∂ z ( 1 ) ∂ w 1 ∂ z ( 2 ) ∂ w 1 ⋯ ∂ z ( r ) ∂ w 1 ∂ z ( 1 ) ∂ w 2 ∂ z ( 2 ) ∂ w 2 ⋯ ∂ z ( r ) ∂ w 2 ⋮ ⋮ ⋱ ⋮ ∂ z ( 1 ) ∂ w r ∂ z ( 2 ) ∂ w r ⋯ ∂ z ( r ) ∂ w r ∣ = ∣ 1 n 1 n ⋯ 1 n 0 1 n − 1 ⋯ 1 n − 1 ⋮ ⋮ ⋱ ⋮ 0 0 ⋯ 1 n − r + 1 ∣ = 1 n P r \begin{aligned}
J&=\begin{vmatrix}
\dfrac{\partial z_{(1)}}{\partial w_{1}} & \dfrac{\partial z_{(2)}}{\partial w_{1}} & \cdots & \dfrac{\partial z_{(r)}}{\partial w_{1}} \\
\dfrac{\partial z_{(1)}}{\partial w_{2}} & \dfrac{\partial z_{(2)}}{\partial w_{2}} & \cdots & \dfrac{\partial z_{(r)}}{\partial w_{2}} \\
\vdots & \vdots & \ddots & \vdots \\
\dfrac{\partial z_{(1)}}{\partial w_{r}} & \dfrac{\partial z_{(2)}}{\partial w_{r}} & \cdots & \dfrac{\partial z_{(r)}}{\partial w_{r}} \\
\end{vmatrix} \\
&=\begin{vmatrix}
\dfrac{1}{n} & \dfrac{1}{n} & \cdots & \dfrac{1}{n} \\\\
0 & \dfrac{1}{n-1} & \cdots & \dfrac{1}{n-1} \\\\
\vdots & \vdots & \ddots & \vdots \\\\
0 & 0 & \cdots & \dfrac{1}{n-r+1} \\
\end{vmatrix} \\
&=\dfrac{1}{{}_{n}{P}_{r}} \\
\end{aligned} J = ∂ w 1 ∂ z ( 1 ) ∂ w 2 ∂ z ( 1 ) ⋮ ∂ w r ∂ z ( 1 ) ∂ w 1 ∂ z ( 2 ) ∂ w 2 ∂ z ( 2 ) ⋮ ∂ w r ∂ z ( 2 ) ⋯ ⋯ ⋱ ⋯ ∂ w 1 ∂ z ( r ) ∂ w 2 ∂ z ( r ) ⋮ ∂ w r ∂ z ( r ) = n 1 0 ⋮ 0 n 1 n − 1 1 ⋮ 0 ⋯ ⋯ ⋱ ⋯ n 1 n − 1 1 ⋮ n − r + 1 1 = n P r 1
また、
∑ i = 1 r W r = ∑ i = 1 r X ( i ) + ( n − r ) X ( r ) \begin{aligned}
\sum_{i=1}^{r} W_{r} = \sum_{i=1}^{r} X_{(i)} +(n-r)X_{ (r)} \\
\end{aligned} i = 1 ∑ r W r = i = 1 ∑ r X ( i ) + ( n − r ) X ( r )
となることから E [ m ^ X ] E[\hat{m}_{X}] E [ m ^ X ] は
E [ m X ^ ] = ∫ 0 ∞ ⋯ ∫ 0 ∞ m ^ W exp ( − ∑ i = 1 r w i ) d w 1 ⋯ d w r \begin{aligned}
E[\hat{m_{X}}]
&=\int_{0}^{\infty} \cdots \int_{0}^{\infty}
\hat{m}_{W}
\exp\left( -\sum_{i=1}^{r}w_{i} \right)
dw_{1} \cdots dw_{r} \\
\end{aligned} E [ m X ^ ] = ∫ 0 ∞ ⋯ ∫ 0 ∞ m ^ W exp ( − i = 1 ∑ r w i ) d w 1 ⋯ d w r
と変形できます。
2.3. n を無限大とした場合の最尤推定量と期待値
2.2. による変数変換により、 n n n が存在するのは最尤推定量 m ^ W \hat m_{W} m ^ W のみになります。この段階で最尤推定量 m ^ W \hat m_{W} m ^ W について n → ∞ n \to \infty n → ∞ の極限をとり、 lim n → ∞ E [ m X ] \displaystyle \lim_{n \to \infty} E[m_{X}] n → ∞ lim E [ m X ] を求め、 n n n を除去します。
lim n → ∞ E [ m X ] \displaystyle \lim_{n \to \infty} E[m_{X}] n → ∞ lim E [ m X ] については
lim n → ∞ E [ m X ^ ] = lim n → ∞ ∫ 0 ∞ ⋯ ∫ 0 ∞ m ^ W exp ( − ∑ i = 1 r w i ) d w 1 ⋯ d w r = ∫ 0 ∞ ⋯ ∫ 0 ∞ lim n → ∞ m ^ W exp ( − ∑ i = 1 r w i ) d w 1 ⋯ d w r \begin{aligned}
\lim_{n\to \infty }E[\hat{m_{X}}]
&=\lim_{n\to \infty }\int_{0}^{\infty} \cdots \int_{0}^{\infty}
\hat{m}_{W}
\exp\left( -\sum_{i=1}^{r}w_{i} \right)
dw_{1} \cdots dw_{r} \\
&=\int_{0}^{\infty} \cdots \int_{0}^{\infty}
\lim_{n\to \infty } \hat{m}_{W}
\exp\left( -\sum_{i=1}^{r}w_{i} \right)
dw_{1} \cdots dw_{r} \\
\end{aligned} n → ∞ lim E [ m X ^ ] = n → ∞ lim ∫ 0 ∞ ⋯ ∫ 0 ∞ m ^ W exp ( − i = 1 ∑ r w i ) d w 1 ⋯ d w r = ∫ 0 ∞ ⋯ ∫ 0 ∞ n → ∞ lim m ^ W exp ( − i = 1 ∑ r w i ) d w 1 ⋯ d w r
となります。厳密には定積分と極限の交換は、被積分関数が一様収束することが十分条件となりますが、一様収束に関する証明は省略します。
次に lim n → ∞ m ^ X \displaystyle\lim_{n \to \infty} \hat{m}_{X} n → ∞ lim m ^ X を求めます。
m ^ X \hat{m}_{X} m ^ X については、 以下の式を満たします。
1 m ^ X + 1 r ∑ i = 1 r ln x ( i ) − ∑ i = 1 r x ( i ) m ^ X ln x ( i ) + ( n − r ) x ( r ) m ^ X ln x ( r ) ∑ i = 1 r x ( i ) m ^ X + ( n − r ) x ( r ) m ^ X = 0 \begin{aligned}
\dfrac{1}{\hat{m}_{X}} + \dfrac{1}{r}\sum_{i=1}^{r}\ln{x_{(i)}}
-\dfrac{\sum_{i=1}^{r} x_{(i)}^{\hat{m}_{X}} \ln{x_{(i)}}
+(n-r) x_{(r)}^{\hat{m}_{X}}\ln x_{(r)}}
{\sum_{i=1}^{r} x_{(i)}^{\hat{m}_{X}}
+(n-r) x_{(r)}^{\hat{m}_{X}} } =0
\end{aligned} m ^ X 1 + r 1 i = 1 ∑ r ln x ( i ) − ∑ i = 1 r x ( i ) m ^ X + ( n − r ) x ( r ) m ^ X ∑ i = 1 r x ( i ) m ^ X ln x ( i ) + ( n − r ) x ( r ) m ^ X ln x ( r ) = 0
この式をまず、X ( i ) → Z ( i ) X_{(i)} \to Z_{(i)} X ( i ) → Z ( i ) に変数変換します。x ( i ) = η z ( i ) 1 m x_{(i)}=\eta z_{(i)}^{\frac{1}{m}} x ( i ) = η z ( i ) m 1 となることを利用して整理すると、
m m ^ Z + 1 r ∑ i = 1 r ln z ( i ) − ∑ i = 1 r z ( i ) m ^ Z m ln z ( i ) + ( n − r ) z ( r ) m ^ Z m ln z ( r ) ∑ i = 1 r z ( i ) m ^ Z m + ( n − r ) z ( r ) m ^ Z m = 0 \begin{aligned}
\dfrac{m}{\hat{m}_{Z}} + \dfrac{1}{r}\sum_{i=1}^{r}\ln{z_{(i)}}
-\dfrac{\sum_{i=1}^{r} z_{(i)}^{\frac{\hat{m}_{Z}}{m}} \ln{z_{(i)}}
+(n-r) z_{(r)}^{\frac{\hat{m}_{Z}}{m}}\ln z_{(r)}}
{\sum_{i=1}^{r} z_{(i)}^{\frac{\hat{m}_{Z}}{m}}
+(n-r) z_{(r)}^{\frac{\hat{m}_{Z}}{m}} } =0
\end{aligned} m ^ Z m + r 1 i = 1 ∑ r ln z ( i ) − ∑ i = 1 r z ( i ) m m ^ Z + ( n − r ) z ( r ) m m ^ Z ∑ i = 1 r z ( i ) m m ^ Z ln z ( i ) + ( n − r ) z ( r ) m m ^ Z ln z ( r ) = 0
となります。次に、Z ( i ) → W i Z_{(i)} \to W_{i} Z ( i ) → W i に変数変換します。z ( i ) = ∑ j = 1 i w j n − j + 1 z_{(i)}=\sum_{j=1}^{i} \dfrac{w_{j}}{n-j+1} z ( i ) = ∑ j = 1 i n − j + 1 w j となることから
m m ^ W + 1 r ∑ i = 1 r ln ( ∑ j = 1 i w j n − j + 1 ) − ∑ i = 1 r ( ∑ j = 1 i w j n − j + 1 ) m ^ W m ln ( ∑ j = 1 i w j n − j + 1 ) + ( n − r ) ( ∑ j = 1 r w j n − j + 1 ) m ^ W m ln ( ∑ j = 1 r w j n − j + 1 ) ∑ i = 1 r ( ∑ j = 1 i w j n − j + 1 ) m ^ W m + ( n − r ) ( ∑ j = 1 i w j n − j + 1 ) m ^ W m = 0 \begin{aligned}
\dfrac{m}{\hat{m}_{W}} + \dfrac{1}{r}\sum_{i=1}^{r}\ln \left( \sum_{j=1}^{i} \dfrac{w_{j}}{n-j+1} \right)
-\dfrac{\sum_{i=1}^{r} \left( \sum_{j=1}^{i} \dfrac{w_{j}}{n-j+1} \right)
^{\frac{\hat{m}_{W}}{m}} \ln \left( \sum_{j=1}^{i} \dfrac{w_{j}}{n-j+1} \right)
+(n-r) \left( \sum_{j=1}^{r} \dfrac{w_{j}}{n-j+1} \right)^{\frac{\hat{m}_{W}}{m}}\ln \left( \sum_{j=1}^{r} \dfrac{w_{j}}{n-j+1} \right)}
{\sum_{i=1}^{r} \left( \sum_{j=1}^{i} \dfrac{w_{j}}{n-j+1} \right)^{\frac{\hat{m}_{W}}{m}}
+(n-r) \left( \sum_{j=1}^{i} \dfrac{w_{j}}{n-j+1} \right)^{\frac{\hat{m}_{W}}{m}} } =0
\end{aligned} m ^ W m + r 1 i = 1 ∑ r ln ( j = 1 ∑ i n − j + 1 w j ) − ∑ i = 1 r ( ∑ j = 1 i n − j + 1 w j ) m m ^ W + ( n − r ) ( ∑ j = 1 i n − j + 1 w j ) m m ^ W ∑ i = 1 r ( ∑ j = 1 i n − j + 1 w j ) m m ^ W ln ( ∑ j = 1 i n − j + 1 w j ) + ( n − r ) ( ∑ j = 1 r n − j + 1 w j ) m m ^ W ln ( ∑ j = 1 r n − j + 1 w j ) = 0
と表せます。左辺の第3項については n n n が非常に大きいことから
∑ i = 1 r ( ∑ j = 1 i w j n − j + 1 ) m ^ W m ≪ ( n − r ) ( ∑ j = 1 r w j n − j + 1 ) m ^ W m \begin{aligned}
\sum_{i=1}^{r} \left( \sum_{j=1}^{i} \dfrac{w_{j}}{n-j+1} \right)
^{\frac{\hat{m}_{W}}{m}} \ll (n-r) \left( \sum_{j=1}^{r} \dfrac{w_{j}}{n-j+1} \right)^{\frac{\hat{m}_{W}}{m}}
\end{aligned} i = 1 ∑ r ( j = 1 ∑ i n − j + 1 w j ) m m ^ W ≪ ( n − r ) ( j = 1 ∑ r n − j + 1 w j ) m m ^ W
となることを利用して、
∑ i = 1 r ( ∑ j = 1 i w j n − j + 1 ) m ^ W m ln ( ∑ j = 1 i w j n − j + 1 ) + ( n − r ) ( ∑ j = 1 r w j n − j + 1 ) m ^ W m ln ( ∑ j = 1 r w j n − j + 1 ) ∑ i = 1 r ( ∑ j = 1 i w j n − j + 1 ) m ^ W m + ( n − r ) ( ∑ j = 1 i w j n − j + 1 ) m ^ W m ≈ ( n − r ) ( ∑ j = 1 r w j n − j + 1 ) m ^ W m ln ( ∑ j = 1 r w j n − j + 1 ) ( n − r ) ( ∑ j = 1 i w j n − j + 1 ) m ^ W m = ln ( ∑ j = 1 r w j n − j + 1 ) \begin{aligned}
&\dfrac{\sum_{i=1}^{r} \left( \sum_{j=1}^{i} \dfrac{w_{j}}{n-j+1} \right)
^{\frac{\hat{m}_{W}}{m}} \ln \left( \sum_{j=1}^{i} \dfrac{w_{j}}{n-j+1} \right)
+(n-r) \left( \sum_{j=1}^{r} \dfrac{w_{j}}{n-j+1} \right)^{\frac{\hat{m}_{W}}{m}}\ln \left( \sum_{j=1}^{r} \dfrac{w_{j}}{n-j+1} \right)}
{\sum_{i=1}^{r} \left( \sum_{j=1}^{i} \dfrac{w_{j}}{n-j+1} \right)^{\frac{\hat{m}_{W}}{m}}
+(n-r) \left( \sum_{j=1}^{i} \dfrac{w_{j}}{n-j+1} \right)^{\frac{\hat{m}_{W}}{m}} } \\
&\approx
\dfrac{ (n-r) \left( \sum_{j=1}^{r} \dfrac{w_{j}}{n-j+1} \right)^{\frac{\hat{m}_{W}}{m}}\ln \left( \sum_{j=1}^{r} \dfrac{w_{j}}{n-j+1} \right)}
{(n-r) \left( \sum_{j=1}^{i} \dfrac{w_{j}}{n-j+1} \right)^{\frac{\hat{m}_{W}}{m}} } \\
&=\ln \left( \sum_{j=1}^{r} \dfrac{w_{j}}{n-j+1} \right)
\end{aligned} ∑ i = 1 r ( ∑ j = 1 i n − j + 1 w j ) m m ^ W + ( n − r ) ( ∑ j = 1 i n − j + 1 w j ) m m ^ W ∑ i = 1 r ( ∑ j = 1 i n − j + 1 w j ) m m ^ W ln ( ∑ j = 1 i n − j + 1 w j ) + ( n − r ) ( ∑ j = 1 r n − j + 1 w j ) m m ^ W ln ( ∑ j = 1 r n − j + 1 w j ) ≈ ( n − r ) ( ∑ j = 1 i n − j + 1 w j ) m m ^ W ( n − r ) ( ∑ j = 1 r n − j + 1 w j ) m m ^ W ln ( ∑ j = 1 r n − j + 1 w j ) = ln ( j = 1 ∑ r n − j + 1 w j )
となります。よって式を変形すると、
m m ^ W + 1 r ∑ i = 1 r ln ( ∑ j = 1 i w j n − j + 1 ) − ln ( ∑ j = 1 r w j n − j + 1 ) ≈ 0 m m ^ W ≈ ln ( ∑ j = 1 r w j n − j + 1 ) − 1 r ∑ i = 1 r ln ( ∑ j = 1 i w j n − j + 1 ) m ^ W ≈ m ln ( ∑ j = 1 r w j n − j + 1 ) − 1 r ∑ i = 1 r ln ( ∑ j = 1 i w j n − j + 1 ) = m r r ln ( ∑ j = 1 r w j n − j + 1 ) − ∑ i = 1 r ln ( ∑ j = 1 i w j n − j + 1 ) = m r ln { ( ∑ j = 1 r w j n − j + 1 ) r ∏ i = 1 r ( ∑ j = 1 i w j n − j + 1 ) } = m r ln { ( ∑ j = 1 r w j n − j + 1 w 1 n ) ⋯ ( ∑ j = 1 r w j n − j + 1 ∑ j = 1 r − 1 w j n − j + 1 ) } \begin{aligned}
\dfrac{m}{\hat{m}_{W}} &+ \dfrac{1}{r}\sum_{i=1}^{r}\ln \left( \sum_{j=1}^{i} \dfrac{w_{j}}{n-j+1} \right)
-\ln \left( \sum_{j=1}^{r} \dfrac{w_{j}}{n-j+1} \right) \approx 0 \\
\dfrac{m}{\hat{m}_{W}}
&\approx \ln \left( \sum_{j=1}^{r} \dfrac{w_{j}}{n-j+1} \right)
-\dfrac{1}{r}\sum_{i=1}^{r} \ln \left( \sum_{j=1}^{i} \dfrac{w_{j}}{n-j+1} \right)
\\
\hat{m}_{W}
&\approx \dfrac{m}{\ln \left( \sum_{j=1}^{r} \dfrac{w_{j}}{n-j+1} \right)
-\dfrac{1}{r}\sum_{i=1}^{r} \ln \left( \sum_{j=1}^{i} \dfrac{w_{j}}{n-j+1} \right) } \\
&= \dfrac{mr}{r \ln \left( \sum_{j=1}^{r} \dfrac{w_{j}}{n-j+1} \right)
-\sum_{i=1}^{r} \ln \left( \sum_{j=1}^{i} \dfrac{w_{j}}{n-j+1} \right) } \\
&= \dfrac{mr}{ \ln \left\{ \dfrac{\left( \sum_{j=1}^{r} \dfrac{w_{j}}{n-j+1} \right)^r}
{ \prod_{i=1}^{r} \left( \sum_{j=1}^{i} \dfrac{w_{j}}{n-j+1} \right) } \right\}}
\\
&= \dfrac{mr}{ \ln \left\{
\left( \dfrac{\sum_{j=1}^{r} \dfrac{w_{j}}{n-j+1}}{\dfrac{w_{1}}{n}} \right)
\cdots
\left( \dfrac{\sum_{j=1}^{r} \dfrac{w_{j}}{n-j+1}}{\sum_{j=1}^{r-1} \dfrac{w_{j}}{n-j+1}} \right)
\right\}} \\
\end{aligned} m ^ W m m ^ W m m ^ W + r 1 i = 1 ∑ r ln ( j = 1 ∑ i n − j + 1 w j ) − ln ( j = 1 ∑ r n − j + 1 w j ) ≈ 0 ≈ ln ( j = 1 ∑ r n − j + 1 w j ) − r 1 i = 1 ∑ r ln ( j = 1 ∑ i n − j + 1 w j ) ≈ ln ( ∑ j = 1 r n − j + 1 w j ) − r 1 ∑ i = 1 r ln ( ∑ j = 1 i n − j + 1 w j ) m = r ln ( ∑ j = 1 r n − j + 1 w j ) − ∑ i = 1 r ln ( ∑ j = 1 i n − j + 1 w j ) m r = ln ⎩ ⎨ ⎧ ∏ i = 1 r ( ∑ j = 1 i n − j + 1 w j ) ( ∑ j = 1 r n − j + 1 w j ) r ⎭ ⎬ ⎫ m r = ln ⎩ ⎨ ⎧ n w 1 ∑ j = 1 r n − j + 1 w j ⋯ ∑ j = 1 r − 1 n − j + 1 w j ∑ j = 1 r n − j + 1 w j ⎭ ⎬ ⎫ m r
となります。
よって、m ^ W \hat{m}_{W} m ^ W について n → ∞ n\to \infty n → ∞ の極限をとると、以下の通り lim n → ∞ m ^ W \displaystyle \lim_{n \to \infty} \hat{m}_{W} n → ∞ lim m ^ W を求めることができます。
lim n → ∞ m ^ W = lim n → ∞ m r ln { ( ∑ j = 1 r n w j n − j + 1 w 1 ) ⋯ ( ∑ j = 1 r n w j n − j + 1 ∑ j = 1 r − 1 n w j n − j + 1 ) } = m r ln ( ∑ j = 1 r w j w 1 ⋯ ∑ j = 1 r w j ∑ j = 1 r − 1 w j ) \begin{aligned}
\lim_{n \to \infty} \hat{m}_{W}
&= \lim_{n \to \infty}\dfrac{mr}{ \ln \left\{
\left( \dfrac{\sum_{j=1}^{r} \dfrac{nw_{j}}{n-j+1}}{w_{1}} \right)
\cdots
\left( \dfrac{\sum_{j=1}^{r} \dfrac{nw_{j}}{n-j+1}}{\sum_{j=1}^{r-1} \dfrac{nw_{j}}{n-j+1}} \right)
\right\}} \\
&= \dfrac{mr}{ \ln
\left( \dfrac{\sum_{j=1}^{r} w_{j} }{ w_{1}}
\cdots
\dfrac{\sum_{j=1}^{r} w_{j} }{\sum_{j=1}^{r-1} w_{j }} \right)
} \\
\end{aligned} n → ∞ lim m ^ W = n → ∞ lim ln ⎩ ⎨ ⎧ w 1 ∑ j = 1 r n − j + 1 n w j ⋯ ∑ j = 1 r − 1 n − j + 1 n w j ∑ j = 1 r n − j + 1 n w j ⎭ ⎬ ⎫ m r = ln ( w 1 ∑ j = 1 r w j ⋯ ∑ j = 1 r − 1 w j ∑ j = 1 r w j ) m r
以上より、目標の lim n → ∞ E [ m ^ W ] \displaystyle \lim_{n\to \infty} E[\hat{m}_{W}] n → ∞ lim E [ m ^ W ] については、
lim n → ∞ E [ m X ^ ] = ∫ 0 ∞ ⋯ ∫ 0 ∞ m r ln ( ∑ i = 1 r w i w i ⋯ ∑ i = 1 r w i ∑ i = 1 r − 1 w i ) exp ( − ∑ i = 1 r w i ) d w 1 ⋯ d w r \begin{aligned}
\lim_{n\to \infty }E[\hat{m_{X}}]
&=\int_{0}^{\infty} \cdots \int_{0}^{\infty}
\dfrac{mr}{ \ln
\left( \dfrac{\sum_{i=1}^{r} w_{i} }{ w_{i}}
\cdots
\dfrac{\sum_{i=1}^{r} w_{i} }{\sum_{i=1}^{r-1} w_{i}} \right)
}
\exp\left( -\sum_{i=1}^{r}w_{i} \right)
dw_{1} \cdots dw_{r} \\
\end{aligned} n → ∞ lim E [ m X ^ ] = ∫ 0 ∞ ⋯ ∫ 0 ∞ ln ( w i ∑ i = 1 r w i ⋯ ∑ i = 1 r − 1 w i ∑ i = 1 r w i ) m r exp ( − i = 1 ∑ r w i ) d w 1 ⋯ d w r
と表せます。W i ( i = 1 , . . . , r ) W_{i} \ (i=1,\ ...\ ,r) W i ( i = 1 , ... , r ) は互いに独立に母数 1 の指数分布に従います。
2.4. W1, ... , Wr から U(1), ... , U(r-1),V への変数変換
次に、以下のように W 1 , . . . , W r → U ( 1 ) , . . . , U ( r − 1 ) , V W_{1},\ ...\ ,W_{r} \to U_{(1)},\ ... \ ,U_{(r-1)}, V W 1 , ... , W r → U ( 1 ) , ... , U ( r − 1 ) , V の変数変換します。
V = W 1 + ⋯ + W r U ( i ) = ∑ j = 1 i W j V ( i = 1 , . . . , r − 1 ) \begin{aligned}
&V=W_{1}+ \cdots +W_{r} \\
&U_{(i)} = \dfrac{\sum_{j=1}^{i} W_{j}}{V}\hspace{10pt} (i=1,\ ...\ ,r-1) \\
\end{aligned} V = W 1 + ⋯ + W r U ( i ) = V ∑ j = 1 i W j ( i = 1 , ... , r − 1 )
W i W_{i} W i を U ( i ) , V U_{(i)},V U ( i ) , V の形に変形すると、U ( i ) V = W 1 + ⋯ + W i = U ( i − 1 ) V + W i U_{(i)}V =W_{1}+ \cdots + W_{i} =U_{(i-1)}V+W_{i} U ( i ) V = W 1 + ⋯ + W i = U ( i − 1 ) V + W i から、
{ W 1 = V U ( 1 ) W i = V ( U ( i ) − U ( i − 1 ) ) ( i = 2 , . . . , r − 1 ) W r = V ( 1 − U ( r − 1 ) ) \left\{\begin{aligned}
&W_{1} = VU_{(1)} \\
&W_{i} = V( U_{(i)} -U_{(i-1)} ) \hspace{10pt} (i=2,\ ...\ ,r-1) \\
&W_{r} = V(1-U_{(r-1)})
\end{aligned}\right. ⎩ ⎨ ⎧ W 1 = V U ( 1 ) W i = V ( U ( i ) − U ( i − 1 ) ) ( i = 2 , ... , r − 1 ) W r = V ( 1 − U ( r − 1 ) )
となります。よってヤコビアン J J J は
J = ∣ ∂ w 1 ∂ u ( 1 ) ∂ w 2 ∂ u ( 1 ) ⋯ ∂ w r − 1 ∂ u ( 1 ) ∂ w r ∂ u ( 1 ) ∂ w 1 ∂ u ( 2 ) ∂ w 2 ∂ u ( 2 ) ⋯ ∂ w r − 1 ∂ u ( 2 ) ∂ w r ∂ u ( 2 ) ⋮ ⋮ ⋱ ⋮ ⋮ ∂ w 1 ∂ u ( r − 1 ) ∂ w 2 ∂ u ( r − 1 ) ⋯ ∂ w r − 1 ∂ u ( r − 1 ) ∂ w r ∂ u ( r − 1 ) ∂ w 1 ∂ v ∂ w 2 ∂ v ⋯ ∂ w r − 1 ∂ v ∂ w r ∂ v ∣ J = ∣ v − v ⋯ 0 0 0 v ⋯ 0 0 ⋮ ⋮ ⋱ ⋮ ⋮ 0 0 ⋯ v − v u ( 1 ) u ( 2 ) − u ( 1 ) ⋯ u ( r − 1 ) − u ( r − 2 ) 1 − u ( r − 1 ) ∣ = ∣ v 0 ⋯ 0 0 0 v ⋯ 0 0 ⋮ ⋮ ⋱ ⋮ ⋮ 0 0 ⋯ v − v u ( 1 ) u ( 2 ) ⋯ u ( r − 1 ) − u ( r − 2 ) 1 − u ( r − 1 ) ∣ = ⋯ = ∣ v 0 ⋯ 0 0 0 v ⋯ 0 0 ⋮ ⋮ ⋱ ⋮ ⋮ 0 0 ⋯ v 0 u ( 1 ) u ( 2 ) ⋯ u ( r − 1 ) 1 ∣ = v r − 1 \begin{aligned}
J&=\begin{vmatrix}
\dfrac{\partial w_{1}}{\partial u_{(1)}} & \dfrac{\partial w_{2}}{\partial u_{(1)}}
& \cdots & \dfrac{\partial w_{r-1}}{\partial u_{(1)}} &\dfrac{\partial w_{r}}{\partial u_{(1)}}
\\\\
\dfrac{\partial w_{1}}{\partial u_{(2)}} & \dfrac{\partial w_{2}}{\partial u_{(2)}}
& \cdots & \dfrac{\partial w_{r-1}}{\partial u_{(2)}} &\dfrac{\partial w_{r}}{\partial u_{(2)}}
\\\\
\vdots & \vdots & \ddots & \vdots & \vdots
\\\\
\dfrac{\partial w_{1}}{\partial u_{(r-1)}} & \dfrac{\partial w_{2}}{\partial u_{(r-1)}}
& \cdots & \dfrac{\partial w_{r-1}}{\partial u_{(r-1)}} &\dfrac{\partial w_{r}}{\partial u_{(r-1)}}
\\\\
\dfrac{\partial w_{1}}{\partial v} & \dfrac{\partial w_{2}}{\partial v}
& \cdots & \dfrac{\partial w_{r-1}}{\partial v} &\dfrac{\partial w_{r}}{\partial v}
\\\\
\end{vmatrix} \\
J&=\begin{vmatrix}
v & -v & \cdots & 0 & 0 \\
0 & v & \cdots & 0 & 0 \\
\vdots & \vdots & \ddots & \vdots & \vdots \\
0 & 0 & \cdots & v & -v \\
u_{(1)} & u_{(2)} - u_{(1)} & \cdots
& u_{(r-1)} - u_{(r-2)} & 1-u_{(r-1)}
\\\\
\end{vmatrix} \\
&=\begin{vmatrix}
v & 0 & \cdots & 0 & 0 \\
0 & v & \cdots & 0 & 0 \\
\vdots & \vdots & \ddots & \vdots & \vdots \\
0 & 0 & \cdots & v & -v \\
u_{(1)} & u_{(2)} & \cdots & u_{(r-1)} - u_{(r-2)} & 1-u_{(r-1)} \\
\end{vmatrix} \\
&= \cdots \\
&=\begin{vmatrix}
v & 0 & \cdots & 0 & 0 \\
0 & v & \cdots & 0 & 0 \\
\vdots & \vdots & \ddots & \vdots & \vdots \\
0 & 0 & \cdots & v & 0 \\
u_{(1)} & u_{(2)} & \cdots & u_{(r-1)} & 1 \\
\end{vmatrix} \\
&= v^{r-1} \\
\end{aligned} J J = ∂ u ( 1 ) ∂ w 1 ∂ u ( 2 ) ∂ w 1 ⋮ ∂ u ( r − 1 ) ∂ w 1 ∂ v ∂ w 1 ∂ u ( 1 ) ∂ w 2 ∂ u ( 2 ) ∂ w 2 ⋮ ∂ u ( r − 1 ) ∂ w 2 ∂ v ∂ w 2 ⋯ ⋯ ⋱ ⋯ ⋯ ∂ u ( 1 ) ∂ w r − 1 ∂ u ( 2 ) ∂ w r − 1 ⋮ ∂ u ( r − 1 ) ∂ w r − 1 ∂ v ∂ w r − 1 ∂ u ( 1 ) ∂ w r ∂ u ( 2 ) ∂ w r ⋮ ∂ u ( r − 1 ) ∂ w r ∂ v ∂ w r = v 0 ⋮ 0 u ( 1 ) − v v ⋮ 0 u ( 2 ) − u ( 1 ) ⋯ ⋯ ⋱ ⋯ ⋯ 0 0 ⋮ v u ( r − 1 ) − u ( r − 2 ) 0 0 ⋮ − v 1 − u ( r − 1 ) = v 0 ⋮ 0 u ( 1 ) 0 v ⋮ 0 u ( 2 ) ⋯ ⋯ ⋱ ⋯ ⋯ 0 0 ⋮ v u ( r − 1 ) − u ( r − 2 ) 0 0 ⋮ − v 1 − u ( r − 1 ) = ⋯ = v 0 ⋮ 0 u ( 1 ) 0 v ⋮ 0 u ( 2 ) ⋯ ⋯ ⋱ ⋯ ⋯ 0 0 ⋮ v u ( r − 1 ) 0 0 ⋮ 0 1 = v r − 1
なお、u ( i ) u_{(i)} u ( i ) の積分区間については w i > 0 w_{i} \gt 0 w i > 0 より
0 < u ( 1 ) < ⋯ < u ( r − 1 ) < 1 \begin{aligned}
0 \lt u_{(1)} \lt \cdots \lt u_{(r-1)} \lt 1
\end{aligned} 0 < u ( 1 ) < ⋯ < u ( r − 1 ) < 1
と表せます。よって求める期待値 lim n → ∞ E [ m ^ X ] \displaystyle \lim_{n \to \infty} E[\hat{m}_{X}] n → ∞ lim E [ m ^ X ] は
lim n → ∞ E [ m ^ X ] = ∫ 0 1 ⋯ ∫ 0 u ( 2 ) ∫ 0 ∞ m r ln ( 1 u ( 1 ) ⋯ u ( r − 1 ) ) exp ( − v ) v r − 1 d v d u ( 1 ) ⋯ d u ( r − 1 ) = ∫ 0 1 ⋯ ∫ 0 u ( 2 ) − m r ⋅ ( r − 1 ) ! ln ( u ( 1 ) ⋯ u ( r − 1 ) ) ∫ 0 ∞ v r − 1 ( r − 1 ) ! exp ( − v ) d v d u ( 1 ) ⋯ d u ( r − 1 ) = m r ∫ 0 1 ⋯ ∫ 0 u ( 2 ) − 1 ln ( u ( 1 ) ⋯ u ( r − 1 ) ) ( r − 1 ) ! d u ( 1 ) ⋯ d u ( r − 1 ) \begin{aligned}
\lim_{n \rightarrow \infty}E[\hat{m}_{X}]
&=\int_{0}^{1} \cdots \int_{0}^{u_{(2)}} \int_{0}^{\infty}
\dfrac{mr}{\ln \left( \dfrac{1}{u_{(1)} \cdots u_{(r-1)}} \right) }
\exp\left(-v \right)
v^{r-1} dv du_{(1)} \cdots du_{(r-1)} \\
&= \int_{0}^{1} \cdots \int_{0}^{u_{(2)}}
-\dfrac{ mr\cdot (r-1)!}{ \ln \left( u_{(1)} \cdots u_{(r-1)} \right) }
\int_{0}^{\infty}
\dfrac{v^{r-1}}{(r-1)!}
\exp\left(-v \right)
dv du_{(1)} \cdots du_{(r-1)} \\
&= mr \int_{0}^{1} \cdots \int_{0}^{u_{(2)}}
-\dfrac{1}{ \ln \left( u_{(1)} \cdots u_{(r-1)} \right) } (r-1)!\
du_{(1)} \cdots du_{(r-1)} \\
\end{aligned} n → ∞ lim E [ m ^ X ] = ∫ 0 1 ⋯ ∫ 0 u ( 2 ) ∫ 0 ∞ ln ( u ( 1 ) ⋯ u ( r − 1 ) 1 ) m r exp ( − v ) v r − 1 d v d u ( 1 ) ⋯ d u ( r − 1 ) = ∫ 0 1 ⋯ ∫ 0 u ( 2 ) − ln ( u ( 1 ) ⋯ u ( r − 1 ) ) m r ⋅ ( r − 1 )! ∫ 0 ∞ ( r − 1 )! v r − 1 exp ( − v ) d v d u ( 1 ) ⋯ d u ( r − 1 ) = m r ∫ 0 1 ⋯ ∫ 0 u ( 2 ) − ln ( u ( 1 ) ⋯ u ( r − 1 ) ) 1 ( r − 1 )! d u ( 1 ) ⋯ d u ( r − 1 )
と変形できます。
∫ 0 ∞ v r − 1 ( r − 1 ) ! exp ( − v ) d v \displaystyle \int_{0}^{\infty} \dfrac{v^{r-1}}{(r-1)!} \exp\left(-v \right) dv ∫ 0 ∞ ( r − 1 )! v r − 1 exp ( − v ) d v については、G a m m a ( r , 1 ) Gamma(r,1) G amma ( r , 1 ) に従う分布において、すべての定義域で積分することから 1 1 1 となります。
2.5. U(1), ... , U(r-1) から T2, ... , Tr-1,S への変数変換
次は以下のように、U ( 1 ) , . . . , U ( r − 1 ) → T 2 , . . . , T r − 1 , S U_{(1)},\ ...\ ,U_{(r-1)} \to T_{2},\ ...\ ,T_{r-1},S U ( 1 ) , ... , U ( r − 1 ) → T 2 , ... , T r − 1 , S の変数変換をします。
T i = − ln U ( i ) ( i = 2 , . . . , r − 1 ) S = − ln ( U ( 1 ) ⋯ U ( r − 1 ) ) \begin{aligned}
&T_{i} = -\ln U_{(i)}\ (i=2,\ ...\ ,r-1) \\
S&= - \ln(U_{(1)} \cdots U_{(r-1)}) \\
\end{aligned} S T i = − ln U ( i ) ( i = 2 , ... , r − 1 ) = − ln ( U ( 1 ) ⋯ U ( r − 1 ) )
U ( 1 ) , . . . , U ( r − 1 ) U_{(1)},\ ...\ ,U_{(r-1)} U ( 1 ) , ... , U ( r − 1 ) を T 2 , . . . , T r − 1 , S T_{2},\ ...\ ,T_{r-1},S T 2 , ... , T r − 1 , S で表すと、
U ( i ) = e − T i ( i = 2 , . . . , r − 1 ) = − ln U ( 1 ) − ln U ( 2 ) ⋯ − ln U ( r − 1 ) = − ln U ( 1 ) + T 2 + ⋯ + T r − 1 ln U ( 1 ) = T 2 + ⋯ + T r − 1 − S U ( 1 ) = e T 2 + ⋯ + T r − 1 − S \begin{aligned}
U_{(i)} &= e^{-T_{i}} (i=2,\ ...\ ,r-1) \\
&=-\ln U_{(1)} -\ln U_{(2)} \cdots - \ln U_{(r-1)} \\
&= -\ln U_{(1)} + T_{2}+\cdots +T_{r-1} \\
&\ln U_{(1)} = T_{2}+ \cdots +T_{r-1} -S\\
& U_{(1)} =e^{T_{2}+\cdots+T_{r-1}-S} \\
\end{aligned} U ( i ) = e − T i ( i = 2 , ... , r − 1 ) = − ln U ( 1 ) − ln U ( 2 ) ⋯ − ln U ( r − 1 ) = − ln U ( 1 ) + T 2 + ⋯ + T r − 1 ln U ( 1 ) = T 2 + ⋯ + T r − 1 − S U ( 1 ) = e T 2 + ⋯ + T r − 1 − S
となります。ヤコビアン J J J については、
J = ∣ ∂ u ( 1 ) ∂ s ∂ u ( 2 ) ∂ s ⋯ ∂ u ( r − 2 ) ∂ s ∂ u ( r − 1 ) ∂ s ∂ u ( 1 ) ∂ t 2 ∂ u ( 2 ) ∂ t 2 ⋯ ∂ u ( r − 2 ) ∂ t 2 ∂ u ( r − 1 ) ∂ t 2 ⋮ ⋮ ⋱ ⋮ ⋮ ∂ u ( 1 ) ∂ t r − 2 ∂ u ( 2 ) ∂ r − 2 ⋯ ∂ u ( r − 2 ) ∂ t r − 2 ∂ u ( r − 1 ) ∂ t r − 2 ∂ u ( 1 ) ∂ t r − 1 ∂ u ( 2 ) ∂ t r − 1 ⋯ ∂ u ( r − 2 ) ∂ t r − 1 ∂ u ( r − 1 ) ∂ t r − 1 ∣ = ∣ − e t 2 + ⋯ + t r − 1 − s 0 ⋯ 0 0 e t 2 + ⋯ + t r − 2 − s − e − t 2 ⋯ 0 0 ⋮ ⋮ ⋱ ⋮ ⋮ e t 2 + ⋯ + t r − 2 − s 0 ⋯ − e − t r − 2 0 e t 2 + ⋯ + t r − 2 − s 0 ⋯ 0 − e − t r − 1 ∣ = ∣ ( − 1 ) r − 1 e − s ∣ = e − s \begin{aligned}
J&=\begin{vmatrix}
\dfrac{\partial u_{(1)}}{\partial s} & \dfrac{\partial u_{(2)}}{\partial s}
& \cdots & \dfrac{\partial u_{(r-2)}}{\partial s} &\dfrac{\partial u_{(r-1)}}{\partial s}
\\\\
\dfrac{\partial u_{(1)}}{\partial t_{2}} & \dfrac{\partial u_{(2)}}{\partial t_{2}}
& \cdots & \dfrac{\partial u_{(r-2)}}{\partial t_{2}} &\dfrac{\partial u_{(r-1)}}{\partial t_{2}}
\\\\
\vdots & \vdots & \ddots & \vdots & \vdots
\\\\
\dfrac{\partial u_{(1)}}{\partial t_{r-2}} & \dfrac{\partial u_{(2)}}{\partial _{r-2}}
& \cdots & \dfrac{\partial u_{(r-2)}}{\partial t_{r-2}} &\dfrac{\partial u_{(r-1)}}{\partial t_{r-2}}
\\\\
\dfrac{\partial u_{(1)}}{\partial t_{r-1}} & \dfrac{\partial u_{(2)}}{\partial t_{r-1}}
& \cdots & \dfrac{\partial u_{(r-2)}}{\partial t_{r-1}} &\dfrac{\partial u_{(r-1)}}{\partial t_{r-1}}
\\\\
\end{vmatrix}\\
&=\begin{vmatrix}
-e^{t_{2}+\cdots+t_{r-1}-s} & 0 & \cdots & 0 & 0 \\
e^{t_{2}+\cdots+t_{r-2}-s} & -e^{-t_{2}} & \cdots & 0 & 0 \\
\vdots & \vdots & \ddots & \vdots & \vdots \\
e^{t_{2}+\cdots+t_{r-2}-s} & 0 & \cdots & -e^{-t_{r-2}} & 0 \\
e^{t_{2}+\cdots+t_{r-2}-s} & 0 & \cdots & 0 & -e^{-t_{r-1}} \\
\end{vmatrix} \\
&=\left| (-1)^{r-1} e^{-s} \right| \\
&=e^{-s}
\end{aligned} J = ∂ s ∂ u ( 1 ) ∂ t 2 ∂ u ( 1 ) ⋮ ∂ t r − 2 ∂ u ( 1 ) ∂ t r − 1 ∂ u ( 1 ) ∂ s ∂ u ( 2 ) ∂ t 2 ∂ u ( 2 ) ⋮ ∂ r − 2 ∂ u ( 2 ) ∂ t r − 1 ∂ u ( 2 ) ⋯ ⋯ ⋱ ⋯ ⋯ ∂ s ∂ u ( r − 2 ) ∂ t 2 ∂ u ( r − 2 ) ⋮ ∂ t r − 2 ∂ u ( r − 2 ) ∂ t r − 1 ∂ u ( r − 2 ) ∂ s ∂ u ( r − 1 ) ∂ t 2 ∂ u ( r − 1 ) ⋮ ∂ t r − 2 ∂ u ( r − 1 ) ∂ t r − 1 ∂ u ( r − 1 ) = − e t 2 + ⋯ + t r − 1 − s e t 2 + ⋯ + t r − 2 − s ⋮ e t 2 + ⋯ + t r − 2 − s e t 2 + ⋯ + t r − 2 − s 0 − e − t 2 ⋮ 0 0 ⋯ ⋯ ⋱ ⋯ ⋯ 0 0 ⋮ − e − t r − 2 0 0 0 ⋮ 0 − e − t r − 1 = ( − 1 ) r − 1 e − s = e − s
積分区間については 0 < u ( 1 ) < ⋯ < u ( r − 1 ) < 1 0 \lt u_{(1)} \lt \cdots \lt u_{(r-1)} \lt 1 0 < u ( 1 ) < ⋯ < u ( r − 1 ) < 1 より
0 < e t 2 + ⋯ + t r − 1 − s < e − t 2 < ⋯ < e − t r − 1 < 1 0 < t r − 1 < ⋯ < t 2 < s − t 2 − ⋯ − t r − 1 0 < t r − 1 < ⋯ < t 4 < t 3 < t 2 < s − t 3 − ⋯ − t r − 1 2 \begin{aligned}
&0 \lt e^{t_{2}+\cdots +t_{r-1}-s} \lt e^{-t_{2}} \lt \cdots \lt e^{-t_{r-1}} \lt 1 \\
& 0 \lt t_{r-1} \lt \cdots \lt t_{2} \lt s-t_{2}-\cdots -t_{r-1} \\
& 0 \lt t_{r-1}\lt \cdots \lt t_{4} \lt t_{3} \lt t_{2} \lt \dfrac{s-t_{3}-\cdots - t_{r-1}}{2} \\
\end{aligned} 0 < e t 2 + ⋯ + t r − 1 − s < e − t 2 < ⋯ < e − t r − 1 < 1 0 < t r − 1 < ⋯ < t 2 < s − t 2 − ⋯ − t r − 1 0 < t r − 1 < ⋯ < t 4 < t 3 < t 2 < 2 s − t 3 − ⋯ − t r − 1
となります。t 3 t_{3} t 3 の積分区間については以下のようになります。
t 4 < t 3 < s − t 3 − ⋯ − t r − 1 2 2 t 3 < s − t 3 − ⋯ − t r − 1 3 t 3 < s − t 4 − ⋯ − t r − 1 t 4 < t 3 < s − t 4 − ⋯ − t r − 1 3 \begin{aligned}
t_{4} \lt t_{3} \lt \dfrac{s-t_{3}-\cdots - t_{r-1}}{2} \\
2t_{3} \lt s-t_{3}-\cdots - t_{r-1} \\
3t_{3} \lt s-t_{4}-\cdots - t_{r-1} \\
t_{4} \lt t_{3} \lt \dfrac{s-t_{4}-\cdots - t_{r-1}}{3} \\
\end{aligned} t 4 < t 3 < 2 s − t 3 − ⋯ − t r − 1 2 t 3 < s − t 3 − ⋯ − t r − 1 3 t 3 < s − t 4 − ⋯ − t r − 1 t 4 < t 3 < 3 s − t 4 − ⋯ − t r − 1
よって、t i ( i = 3 , . . . , r − 2 ) t_{i} (i=3,\ ...\ ,r-2) t i ( i = 3 , ... , r − 2 ) の積分区間については
t i + 1 < t i < s − t i − ⋯ − t r − 1 i − 1 ( i − 1 ) t i < s − t i − ⋯ − t r − 1 i t i < s − t i + 1 − ⋯ − t r − 1 t i + 1 < t i < s − t i + 1 − ⋯ − t r − 1 i \begin{aligned}
t_{i+1} \lt t_{i} \lt \dfrac{s-t_{i}-\cdots - t_{r-1}}{i-1} \\
(i-1)t_{i} \lt s-t_{i}-\cdots - t_{r-1} \\
i t_{i} \lt s-t_{i+1}-\cdots - t_{r-1} \\
t_{i+1} \lt t_{i} \lt \dfrac{s-t_{i+1}-\cdots - t_{r-1}}{i} \\
\end{aligned} t i + 1 < t i < i − 1 s − t i − ⋯ − t r − 1 ( i − 1 ) t i < s − t i − ⋯ − t r − 1 i t i < s − t i + 1 − ⋯ − t r − 1 t i + 1 < t i < i s − t i + 1 − ⋯ − t r − 1
と表せます。以上より、求める期待値 lim n → ∞ E [ m ^ X ] \displaystyle \lim_{n \to \infty} E[\hat{m}_{X}] n → ∞ lim E [ m ^ X ] は
lim n → ∞ E [ m ^ X ] = m r ∫ 0 ∞ e − s s ( r − 1 ) ! ∫ 0 s r − 1 ⋯ ∫ t 3 s − t 3 − ⋯ − t r − 1 2 d t 2 ⋯ d t r − 1 d s = m r ∫ 0 ∞ e − s s ( r − 1 ) ! ∫ 0 s r − 1 ⋯ ∫ t 4 s − t 4 − ⋯ − t r − 1 3 s − 3 t 3 − t 4 − ⋯ − t r − 1 2 d t 3 ⋯ d t r − 1 d s = m r ∫ 0 ∞ e − s s ( r − 1 ) ! ∫ 0 s r − 1 ⋯ ∫ t 5 s − t 5 − ⋯ − t r − 1 4 − [ 1 3 ⋅ 2 ⋅ 2 ! 1 ! ( s − 3 t 3 − t 4 − ⋯ − t r − 1 ) 2 ] t 4 s − t 4 − ⋯ − t r − 1 3 d t 4 ⋯ d t r − 1 d s = m r ∫ 0 ∞ e − s s ( r − 1 ) ! ∫ 0 s r − 1 ⋯ ∫ t 5 s − t 5 − ⋯ − t r − 1 4 1 3 ! 2 ! ( s − 4 t 4 − t 5 − ⋯ − t r − 1 ) 2 d t 4 ⋯ d t r − 1 d s = ⋯ = m r ∫ 0 ∞ e − s s ( r − 1 ) ! ∫ 0 s r − 1 1 ( r − 2 ) ! ( r − 3 ) ! ( s − ( r − 1 ) t r − 1 ) r − 3 d t r − 1 d s = m r ∫ 0 ∞ e − s s ( r − 1 ) ! [ 1 ( r − 1 ) ( r − 2 ) ( r − 2 ) ! ( r − 3 ) ! ( s − ( r − 1 ) t r − 1 ) r − 2 ] 0 s r − 1 d t r − 1 d s = m r ∫ 0 ∞ e − s s ( r − 1 ) ! s r − 2 ( r − 1 ) ! ( r − 2 ) ! d s = m r 1 ( r − 2 ) ! ∫ 0 ∞ e − s s r − 3 d s = m r ( r − 3 ) ! ( r − 2 ) ! = m r r − 2 \begin{aligned}
\lim_{n \to \infty} E[\hat{m}_{X}]
&=mr\int_{0}^{\infty} \dfrac{e^{-s}}{s} (r-1)! \int_{0}^{\frac{s}{r-1}} \cdots
\int_{t_{3}}^{\frac{s-t_{3}-\cdots - t_{r-1}}{2}} dt_{2} \cdots dt_{r-1} ds \\
&=mr\int_{0}^{\infty} \dfrac{e^{-s}}{s} (r-1)! \int_{0}^{\frac{s}{r-1}} \cdots
\int_{t_{4}}^{\frac{s-t_{4}-\cdots - t_{r-1}}{3}}
\dfrac{s-3t_{3} -t_{4} - \cdots -t_{r-1}}{2}
dt_{3} \cdots dt_{r-1} ds \\
&=mr\int_{0}^{\infty} \dfrac{e^{-s}}{s} (r-1)! \int_{0}^{\frac{s}{r-1}} \cdots
\int_{t_{5}}^{\frac{s-t_{5}-\cdots - t_{r-1}}{4}}
-\left[ \dfrac{1}{3 \cdot 2 \cdot 2! 1!} (s-3t_{3} -t_{4} - \cdots -t_{r-1} )^{2}
\right]_{t_{4}}^{\frac{s-t_{4}-\cdots - t_{r-1}}{3}}
dt_{4} \cdots dt_{r-1} ds \\
&=mr\int_{0}^{\infty} \dfrac{e^{-s}}{s} (r-1)! \int_{0}^{\frac{s}{r-1}} \cdots
\int_{t_{5}}^{\frac{s-t_{5}-\cdots - t_{r-1}}{4}}
\dfrac{1}{3! 2!} (s-4t_{4} -t_{5} - \cdots -t_{r-1} )^{2}
dt_{4} \cdots dt_{r-1} ds \\
&=\cdots \\
&=mr\int_{0}^{\infty} \dfrac{e^{-s}}{s} (r-1)! \int_{0}^{\frac{s}{r-1}}
\dfrac{1}{(r-2)! (r-3)!} (s-(r-1)t_{r-1})^{r-3}
dt_{r-1} ds \\
&=mr\int_{0}^{\infty} \dfrac{e^{-s}}{s} (r-1)! \left[
\dfrac{1}{ (r-1)(r-2) (r-2)!(r-3)!} (s-(r-1)t_{r-1})^{r-2}
\right]_{0}^{\frac{s}{r-1}}
dt_{r-1} ds \\
&=mr\int_{0}^{\infty} \dfrac{e^{-s}}{s} (r-1)!
\dfrac{s^{r-2}}{ (r-1)! (r-2)! } ds \\
&=mr\dfrac{1}{(r-2)!} \int_{0}^{\infty} e^{-s}s^{r-3} ds \\
&=mr\dfrac{(r-3)!}{(r-2)!} = \dfrac{mr}{r-2}
\end{aligned} n → ∞ lim E [ m ^ X ] = m r ∫ 0 ∞ s e − s ( r − 1 )! ∫ 0 r − 1 s ⋯ ∫ t 3 2 s − t 3 − ⋯ − t r − 1 d t 2 ⋯ d t r − 1 d s = m r ∫ 0 ∞ s e − s ( r − 1 )! ∫ 0 r − 1 s ⋯ ∫ t 4 3 s − t 4 − ⋯ − t r − 1 2 s − 3 t 3 − t 4 − ⋯ − t r − 1 d t 3 ⋯ d t r − 1 d s = m r ∫ 0 ∞ s e − s ( r − 1 )! ∫ 0 r − 1 s ⋯ ∫ t 5 4 s − t 5 − ⋯ − t r − 1 − [ 3 ⋅ 2 ⋅ 2 ! 1 ! 1 ( s − 3 t 3 − t 4 − ⋯ − t r − 1 ) 2 ] t 4 3 s − t 4 − ⋯ − t r − 1 d t 4 ⋯ d t r − 1 d s = m r ∫ 0 ∞ s e − s ( r − 1 )! ∫ 0 r − 1 s ⋯ ∫ t 5 4 s − t 5 − ⋯ − t r − 1 3 ! 2 ! 1 ( s − 4 t 4 − t 5 − ⋯ − t r − 1 ) 2 d t 4 ⋯ d t r − 1 d s = ⋯ = m r ∫ 0 ∞ s e − s ( r − 1 )! ∫ 0 r − 1 s ( r − 2 )! ( r − 3 )! 1 ( s − ( r − 1 ) t r − 1 ) r − 3 d t r − 1 d s = m r ∫ 0 ∞ s e − s ( r − 1 )! [ ( r − 1 ) ( r − 2 ) ( r − 2 )! ( r − 3 )! 1 ( s − ( r − 1 ) t r − 1 ) r − 2 ] 0 r − 1 s d t r − 1 d s = m r ∫ 0 ∞ s e − s ( r − 1 )! ( r − 1 )! ( r − 2 )! s r − 2 d s = m r ( r − 2 )! 1 ∫ 0 ∞ e − s s r − 3 d s = m r ( r − 2 )! ( r − 3 )! = r − 2 m r
となり、以下の式が導出されます。
lim n → ∞ E [ m ^ X ] = r r − 2 m \begin{aligned}
\lim_{n \to \infty} E[\hat{m}_{X}]
= \dfrac{r}{r-2}m
\end{aligned} n → ∞ lim E [ m ^ X ] = r − 2 r m
k r , n = m ^ X m k_{r,n}=\dfrac{\hat{m}_{X}}{m} k r , n = m m ^ X とすると、
lim n → ∞ E [ k r , n ] = r r − 2 \begin{aligned}
\lim_{n\to \infty}E[k_{r,n}]=\dfrac{r}{r-2}
\end{aligned} n → ∞ lim E [ k r , n ] = r − 2 r
が成り立ちます。
Discussion