やること
https://www.amazon.co.jp/dp/4254209444
を読んで、確率微分方程式による最適化問題を解けるようになることです。
これまでのBotter自主ゼミノート
Botter自主ゼミノート 1.2 確定システムの制御の回顧
Botter自主ゼミノート 2.1 確率過程とは?, 2.2 確率過程の数学的表現
Botter自主ゼミノート 1.2 数式導出
Botter自主ゼミノート 2.3 確率モーメント
Botter自主ゼミノート 2.4 確率過程の分類
Botter自主ゼミノート 2.5 エルゴード性
Botter自主ゼミノート 2.6 確率過程の周波数表現
Botter自主ゼミノート 2.7 マルコフ過程
Botter自主ゼミノート 2.8 正規型確率過程
Botter自主ゼミノート 2.9 ウィーナ過程(1)
Botter自主ゼミノート 2.9 ウィーナ過程(2)
Botter自主ゼミノート 2.10 白色雑音
Botter自主ゼミノート 3.1, 3.2 確率変数列の収束
Botter自主ゼミノート 3.3 確率過程の連続性
Botter自主ゼミノート 3.4 自乗平均微分
Botter自主ゼミノート 3.5 自乗平均積分
Botter自主ゼミノート 4.1 確率微分方程式とは?
Botter自主ゼミノート 4.2 確率積分
Botter自主ゼミノート 4.2 確率積分 例題4.1
4.3 確率微分方程式
伊藤確率微分方程式
この節では以下の形式の伊藤確率微分方程式について説明されています。
\begin{rcases}
dx(t, \omega) = f[t, x(t, \omega)]dt + G[t, x(t, \omega)]dw(t, \omega) \\
x(t_0) = x_0 \quad (t_0 \le t \le T) \\
\end{rcases} \tag{4.18}
式(4.18)の関数f, Gと初期値x(t_0, \omega)が以下の条件を満たす時、式(4.18)は[t_0, T]において自乗平均の意味で解を持ち、その解は確率1で一意となります。ただし、記号\|\cdot\|はベクトルあるいは行列のノルムです。
-
f, Gはxに関する増大条件を満たす (K_1, K_2は定数)
\|f(t, x)\| \le K_1 \sqrt{1+\|x\|^2} \\
\|G(t, x)\| \le K_2 \sqrt{1+\|x\|^2} \\
-
f, Gはリプシッツ条件を満たす。(x_1, x_2 \in \mathbb{R}^n)
\|f(t, x_1) - f(t, x_2)\| \le K_3 \|x_1 - x_2\|\\
\|G(t, x_1) - G(t, x_2)\| \le K_4 \|x_1 - x_2\|\\
-
f, Gはtに関して、\alpha次のヘルダー条件を満たす。(\alpha \in (0, \frac{1}{2}])
\|f(t_1, x) - f(t_2, x)\| \le K_5 \|t_1 - t_2\|^\alpha\\
\|G(t_1, x) - G(t_2, x)\| \le K_6 \|t_1 - t_2\|^\alpha\\
- 初期値x(t_0, \omega)は\mathcal{E}\{\|x(t_0, \omega)\|\} < \inftyを満たす確率変数で、\{dw(t, \omega), t \in [t_0, T]\}とは独立
上記の条件を満たす解は以下のような性質を持つことが知られています。
-
\{x(t, \omega)\}は[t_0, T]で確率1で連続
-
\mathcal{E}\{\|x(t, \omega)\|^2\} < M ただしMは定数
- \int_{t_0}^T \mathcal{E}\left\{ \|x(t, \omega)\|^2 \right\} dt < \infty
-
\{x(t, \omega)\}過程はマルコフ過程
伊藤確率微分方程式の解の存在の証明
教科書で行われている証明を追いかけていきます。簡単のために、ウィーナ過程の分散パラメータ\sigma^2を1としています。
まず、式(4.18)を積分表現します。
x(t, \omega) = x(t_0, \omega) + \int_{t_0}^t f[\tau, x(\tau, \omega)] d\tau + \int_{t_0}^t G[\tau, x(\tau, \omega)]dw(\tau, \omega) \tag{4.19}
次に、不等式\left(\sum_{i=1}^n |a_i| \right)^2 \le n \left( \sum_{i=1}^n |a_i|^2 \right)を用いて式(4.19)を変形すると以下のようになります。
\|x(t, \omega)\|^2 \le 3 \left[ \|x(t_0, \omega)\|^2 + \left\| \int_{t_0}^t f[\tau, x(\tau, \omega)] d\tau \right\|^2 + \left\|\int_{t_0}^t G[\tau, x(\tau, \omega)]dw(\tau, \omega) \right\|^2 \right]
ここで、コーシー・シュワルツ不等式の積分型を、g(x) = 1として適応すると以下のようになります。
\left\|\int_{t_0}^t f(\tau, x_\tau) d\tau \right\|^2 \le (t-t_0)\int_{t_0}^t \|f(\tau, x_\tau)\|^2 d\tau
さらに、教科書付録(A.4)のシュヴァルツの不等式を用いると以下のようになります。
\mathcal{E}\left\{ \left\| \int_{t_0}^t G(\tau, x_\tau) dw_\tau \right\|^2 \right\} = \int_{t_0}^t \mathcal{E} \left\{ \|G(\tau, x_\tau)\|^2 \right\} d\tau
となるので、式(4.18)が解を一意に持つ条件1を用いて変形していくと以下のようになります。
\begin{aligned}
\mathcal{E}\{ \|x(t, \omega)\|^2 \} &\le 3\mathcal{E}\{ \|x(t_0, \omega)\|^2 \} + 3(t-t_0)\int_{t_0}^t \mathcal{E}\{ \|f(\tau, x_\tau)\|^2 \} d\tau + 3\int_{t_0}^t \mathcal{E}\{ \|G(\tau, x_\tau)\|^2 \} d\tau \\
&\le 3\mathcal{E}\{\|x_0\|^2\} + 3[(t-t_0)K_1^2 + K_2^2]\int_{t_0}^t [1+\mathcal{E}\{ \|x_\tau\|^2\}]d\tau \\
&\le 3\mathcal{E}\{\|x_0\|^2\} + 3[(t-t_0)K_1^2 + K_2^2](t-t_0) + 3[(t-t_0)K_1^2 + K_2^2] \int_{t_0}^t \mathcal{E}\{ \|x_\tau\|^2\}d\tau \\
&\le 3\mathcal{E}\{\|x_0\|^2\} + 3[(T-t_0)K_1^2 + K_2^2](t-t_0) + 3[(T-t_0)K_1^2 + K_2^2] \int_{t_0}^t \mathcal{E}\{ \|x_\tau\|^2\}d\tau \tag{4.20}
\end{aligned}
ここで、式(4.18)が解を一意に持つ条件4に注意すると、式(4.20)の第一項と第二項の和は0よりも大きい定数となることがわかりますので、これをc_1とします。同様に第三項の積部分部分の前も0より大きい定数となるので、これをc_2とします。
c_1, c_2を用いて式(4.20)を変形すると、以下のようになります。
\mathcal{E}\{ \|x(t, \omega)\|^2 \} \le c_1 + c_2 \int_{t_0}^t \mathcal{E}\{ \|x_\tau\|^2\}d\tau \tag{4.21}
ここで、グロンウォール・ベルマン不等式(教科書付録B参照)を適用すると
\begin{aligned}
\mathcal{E}\{ \|x(t, \omega)\|^2 \} &\le c_1 e^{c_2(t - t_0)} \\
&\le c_1 e^{c_2(T - t_0)} < M < \infty \tag{4.22}
\end{aligned}
となり、自乗平均の意味での解の存在と、解の性質2が証明されました。
伊藤確率微分方程式の解の一意性の証明
x_1(t), x_2(t)を式(4.18)を満たすふたつの解、つまり、式(4.23)の解とします。ただし、式(4.23)では\omegaの記述を省いています。
dx_i(t) = f[t, x_i(t)]dt + G[t, x_i(t)]dw(t)\\
x_i(t_0) = x_{0i}\quad(i = 1, 2) \tag{4.23}
ここで、ノルム\| x_1(t) - x_2(t)\|を考え、式(4.18)が解を一意に持つ条件2を使って、解の存在を証明した時と同様に変形していくと以下のようになります。
\begin{aligned}
\mathcal{E}\left\{ \| x_1(t) - x_2(t) \|^2 \right\} &\le 3\mathcal{E}\{ \| x_{01} - x_{02}\|^2 \} + 3(T-t_0)\int_{t_0}^t \mathcal{E}\{ \|f(\tau, x_1) - f(\tau, x_2) \|^2 \}d\tau + 3 \int_{t_0}^t \mathcal{E} \{ \|G(\tau, x_1) - g(\tau, x_2) \|^2 \} d\tau \\
& \le 3\mathcal{E}\{ \| x_{01} - x_{02}\|^2 \} + 3(T-t_0)K_3^2 \int_{t_0}^t \mathcal{E}\{ \|x_1(\tau) - x_2(\tau) \|^2 \}d\tau + 3 K_4^2 \int_{t_0}^t \mathcal{E} \{ \|x_1(\tau) - x_2(\tau) \|^2 \} d\tau \\
&= 3\mathcal{E}\{ \| x_{01} - x_{02}\|^2 \} + 3[(T-t_0)K_3^2 + K_4^2] \int_{t_0}^t \mathcal{E}\{ \|x_1(\tau) - x_2(\tau) \|^2 \}d\tau
\end{aligned}
ここで\|x_{01} - x_{02}\| = \delta (\text{w.p.1})とおくと、上式は
\mathcal{E}\left\{ \| x_1(t) - x_2(t) \|^2 \right\} \le 3 \delta^2 + c_3 \int_{t_0}^t \mathcal{E}\{ \|x_1(\tau) - x_2(\tau) \|^2 \}d\tau \tag{4.24}
と表現できるので、再びグロンウォール・ベルマン不等式を使うと以下のようになります。
\mathcal{E}\left\{ \| x_1(t) - x_2(t) \|^2 \right\} \le 3 \delta^2 + e^{c_3 (T-t_0)} \tag{4.25}
ここで、チェビシェフの不等式を利用すると、任意の微小な\epsilon > 0について、以下のようになります。
\Pr\{\|x_1(t) - x_2(t)\| \gt \epsilon \} \le \frac{1}{\epsilon^2}\mathcal{E}\{ \| x_1(t) - x_2(t) \| \} \tag{4.26}
ここで、式(4.25)の右辺の\deltaは、左辺のx_1(t)とx_2(t)が同じ\omegaを持つとき、確率1で0となります。すると、式(4.26)の右辺が0であることが確定します。
その結果Tの範囲全体で\|x_1(t) - x_2(t)\| = 0 (\text{w.p.1})であることがわかり、解の一意性が証明されます。
解過程がマルコフ過程であることについて
解過程\{x(t, \omega), t_0 < t < T\}がマルコフ過程であることも教科書では示されています。式(4.19)を用いると、
x(t) = x(s) + \int_s^t f(\tau, x_\tau) d\tau + \int_s^t G(\tau, x_\tau) dw(\tau) \tag{4.27}
と書くことができます。これは、x(s) = x_sという初期値を持つ確率積分方程式です。この時、右辺のsからtまでに変化する増分と、x(s)およびs以前にどのような値をx(t)が取ったかは無関係です。このことから、x(t)はマルコフ過程であることがわかります。
Discussion