Botter自主ゼミノート 2.4 確率過程の分類

やること

https://www.amazon.co.jp/dp/4254209444
を読んで、確率微分方程式による最適化問題を解けるようになることです。

これまでのBotter自主ゼミノート

Botter自主ゼミノート 1.2 確定システムの制御の回顧
Botter自主ゼミノート 2.1 確率過程とは？, 2.2 確率過程の数学的表現
Botter自主ゼミノート 1.2 数式導出
Botter自主ゼミノート 2.3 確率モーメント

2.4 確率過程の分類

強定常過程 (strictly stationary process)

• 確率過程$\{x(t), t \in T\}$が$N$次の結合確率密度関数に対して$p(t_1, x_1; \cdots ;t_N, x_n) = p(t_1 + \tau, x_1, \cdots, t_N + \tau, x_N)$という性質を持つこと

• 時間$t$での$x(t)$の結合分布と、時間$\tau$だけずれた$x(t + \tau)$の結合分布が等しいことと言い換えることもできる

• 強定常過程の期待値は上記の性質から、$\mathcal{E}\{x^k (t)\} = 定数 (k = 1, 2, \cdots)$という性質を持つ

• 二次の確率密度は時間$t_1$ずらしても一定なので、以下のようにして二次モーメントは以下のように時間差$\tau$の関数$\psi(\tau)$として表されることがわかる

$$\begin{aligned} p(t_1, x_1; t_2, x_2) &= p(0, x_1; t_2 - t_1, x_2) \\ &= p(\tau; x_1, x_2) (\tau = t_2 - t_1)\\ \end{aligned}\\ \begin{aligned} \mathcal{E}\{x(t)x(t+\tau)\} &= \int_{\infty}^{\infty} \int_{\infty}^{\infty} x_1 x_2 p(\tau, x_1, x_2) dx_1 dx_2\\ &= \psi(\tau) \end{aligned}$$

メモ

• 大きな疑問はなく理解できた。よかった
• $\mathcal{E}\{x^k (t)\}$でわざわざ$k$が入っているのはなぜ？ 自己共分散マトリクスやj自己相関関数が定数であることを示すため？　だったら$k > 2$まで定義して何が便利なのかよくわからない

弱定常過程 (weakly stationary process)

• 強定常過程のチェックは難しいので、以下の簡単なチェックの両方を満たす確率過程のことを、弱定常過程と呼ぶ
• 二次モーメントが有限な強定常過程は弱定常過程となるが、その逆は一般的に成立しない

$$\left. \begin{aligned} \mathcal{E}\{x(t)\} &= 定数 < \infty \\ \mathcal{E}\{ x(t) x(t+\tau) \} &= \psi(\tau) \\ \end{aligned} \quad \right\}$$

メモ

• この部分についても違和感はない…と思う
• 前の2.3節で流して読んでしまった同様に高次モーメントも定義できるという部分がちょっと気になってきた。二次の時は二次元の共分散マトリクスになったけど、三次のときはどうなるんだろ…？
• 例えば、$\mathcal{E}\{x(t)\} = 定数 < \infty$についての理解は…
  • この式では$\omega$は自由に動くことができるので、$x(t)$は色々な値を取り得る確率変数になっている
  • ある時点$t_1$を選んで、色々な値を取りうる確率変数$x(t_1)$の期待値を計算すると$E$になる
  • 次にある時点$t_2$を選んで、もう一度確率変数$x(t_2)$の期待値を計算すると、またもや$E$になる
  • どの$t$を選んでも、確率変数$x(t_2)$の期待値が無限に発散せず定数になる。すごい偶然！
• さらに、$\mathcal{E}\{ x(t) x(t+\tau) \} = \psi(\tau)$についての理解は…
  • この式では$\omega$は自由に動くことができるので、$x(t)$と$x(t+\tau)$はどちらも色々な値を取り得る確率変数になっている
  • ある時点$t_1$と$\tau_1$を選んで、色々な値を取りうる確率変数$x(t_1)$と$x(t_1+\tau_1)$の積の期待値を計算すると$E_{t=t_1,\tau=\tau_1}$になる
  • ある時点$t_2$と$\tau_2$を選んで、色々な値を取りうる確率変数$x(t_2)$と$x(t_2+\tau_2)$の積の期待値を計算すると$E_{t=t_2,\tau=\tau_2}$になる
  • これを何度も繰り返して$E_{t, \tau}$の規則性を探すと、実は$\tau$の関数$\psi(\tau)$だとわかる。これまたすごい偶然！
• 読みかけの沖本本を読み返してみたら、少し読みやすくなっていてうれしかった。こちらの教科書の方が確率過程については細かく説明されているので、この教科書を読み終わるころには沖本本も理解しやすくなっているにちがいない