計算グラフ: 分岐

計算グラフの分岐について。

上のような計算グラフがあるとき、以下のような関係になっている。

\begin{aligned} u &= u(x, ...)\\ v &= v(x, ...)\\ f_{i} &= f_{i}(u, ...)\\ g_{i} &= g_{i}(v, ...)\\ y &= y(f_{1}, ..., g_{1}, ...) \end{aligned}

このとき、Lのxによる偏微分は次のようになる。

\frac{\partial L}{\partial x} = \left(\frac{\partial L}{\partial x}\right)_{v} + \left(\frac{\partial L}{\partial x}\right)_{u}

計算グラフのルール的には単純に分岐先でグラフの計算で得た微分の和ということになります。 $u, v$ は分岐グラフの外にあるので使えないため、1, 2と番号を振っていますが、意味的には1は下のグラフにある変数を固定、2は上のグラフ経由の変数を固定ということです。

一般に分岐先がNある場合も同様、全ての分岐先からの寄与を足し上げる。

このスクラップは2021/03/10にクローズされました