やること
https://www.amazon.co.jp/dp/4254209444
を読んで、確率微分方程式による最適化問題を解けるようになることです。
これまでのBotter自主ゼミノート
Botter自主ゼミノート 1.2 確定システムの制御の回顧
Botter自主ゼミノート 2.1 確率過程とは?, 2.2 確率過程の数学的表現
Botter自主ゼミノート 1.2 数式導出
Botter自主ゼミノート 2.3 確率モーメント
Botter自主ゼミノート 2.4 確率過程の分類
2.5 エルゴード性
エルゴード性の定義
- 次の関係式が確立1で成立するとき、その確率過程は (平均値に関して) エルゴード的 (ergodic) であるといいます
\mathcal{E}\{x(t, \omega)\} = \lim_{T \to \infty} \frac{1}{2T} \int_{-T}^{T} x(t, \omega) dt \tag{2.18}
- 左辺は、\{x(t, \omega)\}の平均値m_x=\int_{-\infty}^{\infty} xp(x)dx = \mathcal{E}\{x(t, \omega)\}であり、全ての見本過程の平均。これを集合平均 (emsamble average)といいます
-
\frac{1}{2}T\int_{-T}^{T} x(t, \omega) dtは、\{x(t, \omega)\}をスカラ定常過程としたとき、[-T, T]区間におけるx(t, \omega)の時間平均です
- エルゴード的とは、全ての見本過程の平均値が、無限時間の時間平均と等しいことです
- エルゴード性は定常過程全てで成り立つわけではありません
エルゴード性が成立する条件とその証明
確率過程x(t, \omega)に対して、以下の条件が成立する時にエルゴード性が成立します
\lim_{T \to \infty} \frac{1}{T} \int_{0}^{2T} \left(1-\frac{\tau}{2T})\left[\psi(\tau)-{m_x}^2\right]\right) d\tau \tag{2.19}
証明は以下の通りです
まず、任意の\epsilon > 0に対してもし{\sigma_y}^2 := \mathcal{E}\{(Y-{m_Y})^2\} = 0ならば、P_r\{|Y(\omega) - \mathcal{E}\{Y(\omega)\}| \ge \epsilon\} = 0が成り立つという事実から出発します。
Y(\omega) := \lim_{T \to \infty} \frac{1}{2T} \int_{-T}^{T} x(t, \omega) dt
と置くと、x(t, \omega)は定常であるので
\begin{aligned}
\mathcal{E} \{Y(\omega)\} &= \lim_{T \to \infty} \frac{1}{2T} \int_{-T}^{T}\mathcal{E} \{x(t, \omega)\} dt \\
&= \mathcal{E}\{x(t, \omega)\} = m_x \tag{2.21}
\end{aligned}
またその分散は以下の式によって与えられます。
\begin{aligned}
\mathcal{E}\{[Y(\omega) - m_x]^2\} &= \lim_{T \to \infty} \frac{1}{4T^2} \int_{-T}^{T} \int_{-T}^{T} \mathcal{E}\{x(t_1, \omega) x(t_2, \omega)\} dt_1 dt_2 - m_x^2 \\
&= \lim_{T \to \infty} \frac{1}{4T^2} \int_{-T}^{T} \int_{-T}^{T} \psi(t_2 - t_1) dt_1 dt_2 - m_x^2 \tag{2.22}
\end{aligned}
(2.22)式の重積分を実行するために\tau_1 = t_2 + t_1, \tau_2 = t_2 - t_1と置くと、t_1 = \frac{\tau_1 - \tau_2}{2}, t_2 = \frac{\tau_1 + \tau_2}{2}なので、この変換に対するヤコビアンは以下の通りとなります。
\begin{aligned}
\begin{vmatrix}
\frac{\partial t_1}{\partial \tau_1} & \frac{\partial t_1}{\partial \tau_2} \\
\frac{\partial t_2}{\partial \tau_2} & \frac{\partial t_2}{\partial \tau_2}
\end{vmatrix} &=
\begin{vmatrix}
\frac{1}{2}\frac{\tau_1 - \tau_2}{\partial \tau_1} & \frac{1}{2} \frac{\tau_1 - \tau_2}{\partial \tau_2} \\
\frac{1}{2} \frac{\tau_1 + \tau_2}{\partial \tau_1} & \frac{1}{2} \frac{\tau_1 + \tau_2}{\partial \tau_2}
\end{vmatrix}\\
&= \begin{vmatrix}
\frac{1}{2} & - \frac{1}{2} \\
\frac{1}{2} & \frac{1}{2}
\end{vmatrix}\\
&= \frac{1}{2}
\end{aligned}
ヤコビアンを使って式(2.22)の変数変換を行うと、以下のように変形できます。
\begin{aligned}
&= \lim_{T \to \infty} \frac{1}{4T^2}\int \int \frac{1}{2} \psi(\tau_1) d\tau_1 d\tau_2 - m_x^2 \\
&= \lim_{T \to \infty} \frac{1}{8T^2}\int \int \psi(\tau_1) d\tau_1 d\tau_2 - m_x^2 \tag{2.23}
\end{aligned}
教科書の図2.3から、変数変換後の積分は図の斜線部分の4倍となるので以下のように式変形できます。
\begin{aligned}
&= \lim_{T \to \infty} \frac{4}{8T^2} \int_{0}^{2T} \int_{0}^{2T-\tau_1} \psi(\tau_1) d\tau_2 d\tau_1 - m_x^2 \\
&= \lim_{T \to \infty} \frac{1}{2T^2} \int_{0}^{2T} \int_{0}^{2T-\tau_1} \psi(\tau_1) d\tau_2 d\tau_1 - m_x^2 \\
&= \lim_{T \to \infty} \frac{1}{2T^2} \int_{0}^{2T} (2T-\tau_1) \psi(\tau_1) d\tau_1 - m_x^2 \\
&= \lim_{T \to \infty} \frac{2T}{2T^2} \int_{0}^{2T} (1 -\frac{\tau_1}{2T}) \psi(\tau_1) d\tau_1 - m_x^2 \\
\mathcal{E}\{[Y(\omega) - m_x]^2\} &= \lim_{T \to \infty} \frac{1}{T} \int_{0}^{2T} (1 -\frac{\tau_1}{2T}) [ \psi(\tau_1) - m_x^2]d\tau_1 \tag{2.24}
\end{aligned}
式(2.24)の右辺が0の時、Y(\omega) = \mathcal{E}\{Y(\omega)\}となり、式(2.20)から式(2.18)が確率1で成り立つことがわかる。
相関関数に関するエルゴード性
エルゴード性は相関関数に対しても成り立ちます。
\lim_{T \to \infty} \frac{1}{2T} \int_{T}^{T} x(t, \omega)x(t+\tau, \omega)dt = \psi(\tau) \tag{2.25}
ただし、これは条件
\lim_{T \to \infty} \frac{1}{T} \int_{0}^{2T} \left(1 - \frac{\tau_1}{2T}\right) [\xi(\tau_1) - \psi^2 (\tau) ] d\tau_1 = 0 \\
\xi(\tau_1) := \mathcal{E} \{ x(t + \tau + \tau_1) x(t +\tau_1) x(t + \tau) x(t) \}
が成り立つ時、かつその時に限り成り立ちます。
Discussion