制限ボルツマンマシンの基礎 ～概念編～

はじめに

機械学習で用いられるボルツマンマシン、特に制限ボルツマンマシン(Restricted Boltzmann Machine, RBM)は非常に面白い概念ですが、その中身の理解は他のニューラルネットワークに比べて難しく、「数式はわかったが、結局何をやっているのか」が分かりにくい印象です。以下では、なるべく平易な言葉で制限ボルツマンマシンが何をしているのか説明してみようと思います。

問題設定

とある大学に通うDaveは、お昼はいつも学食の前のテラスでお弁当を食べます。そして、何の気なしに学食を眺めていると、同じクラスのAliceとBobが学食をよく利用していることに気が付きました。しかし、どうもAliceとBobが同時に現れる確率はかなり低いようです。AliceやBobがお互いに避けているのかと思ってちょっと聞いてみましたが、お互い名前しか知らないようで、特に気にしてないそうです。いったい何が起きているのでしょうか？

Daveは長いこと(239日間！)二人を観察し、AliceとBobが学食に来た日、来ていない日の統計を取りました。

A	B	日数
x	x	35
x	o	56
o	x	113
o	o	35

例えばAliceもBobも来ていない日は35日、Aliceだけ来てBobが来なかった日は113日ありました。

実は学食を利用していないDaveは知りませんでしたが、この学食は頻繁にカレーフェアを実施しています。Aliceは学食をよく利用していますが、カレーの匂いが苦手なので、カレーフェアの日は学食を利用しません。Bobは普段はあまり学食に来ませんが、カレーが大好きなので、カレーフェアの日は学食を利用する確率が高くなります。

カレーフェア(Curry Fair)をCとして、その開催日をo、開催していない日をxとすると、先ほどの内訳はこうなっていました。

A	B	C	日数
x	x	x	28
x	x	o	7
x	o	x	7
x	o	o	49
o	x	x	112
o	x	o	1
o	o	x	28
o	o	o	7

こうして、カレーフェアが無い日はAliceは学食に来てBobは学食に来ない可能性が高く、カレーフェアの日はAliceは学食に来ないでBobが来る可能性が高いため、結果として「AliceとBobが同時に学食に来る可能性が低い」という状態になっていました。

この、AliceとBobの学食への出現確率をモデル化したい、というのが本稿の目的です。本来であれば、Daveは重要な情報であるカレーフェアのことを知りません^[1]。この隠れた情報であるカレーフェアについて、AliceとBobの観測だけから推定しましょう、というのが制限ボルツマンマシンの目的の一つですが、まずは全てを知っている神の立場から、この学食問題をモデル化してみましょう。

モデルの変数とパラメータ

変数

Aliceをa、Bobをb、カレーフェアをcと略記します。Daveは蚊帳の外です。AliceやBobが学食に来ているかどうか、カレーフェアをやっているかどうかを変数で表すことにしましょう。

例えばある日、Aliceが学食に来ているかどうかを変数$vav_a$で表すことにします。これは0か1を取る変数で、$va=0v_a=0$ なら今日はAliceは学食に来ておらず、$va=1v_a=1$ なら学食に来ています。Bobが学食に来ているかどうかも変数$vbv_b$で表しましょう。同様に、カレーフェアが開催しているかどうかを$hch_c$という変数で表すことにします。やはり$hc=0h_c = 0$ならカレーフェアを開催しておらず、$hc=1h_c = 1$なら開催日です。

Daveから見て、AliceやBobが来ているかどうかはわかりますが、カレーフェアをやっているかどうかはわかりません。そこで、AliceやBobは「見える(visible)」変数で、カレーフェアについては「隠れた(hidden)」変数と呼ぶことにします。$va,vbv_a, v_b$の$vv$は「visible」の頭文字、$hch_c$の$hh$は「hidden」の頭文字です。

パラメータ

Aliceはカレーフェアが嫌いで、Bobはカレーフェアが好きなので、そこに何か関係がありそうです。AとC、BとCをそれぞれ線で結びましょう。しかし、AliceとBobはお互いに意識していませんので、そこは線で結びません。こうして、以下のような図ができました。

ここで、AliceとBobはDaveから見えるので「可視層(visible layer)」、カレーフェアはDaveから見えないので「隠れ層(hidden layer)」と呼びます。

我々の目的は、AliceやBobが学食にくる確率を与えるモデルを作ることです。そのためにAliceやBobが学食にくる確率の高さや、カレーフェアとの関係をパラメータで表し、そのパラメータから確率を定義しましょう。

Aliceの出現確率にBobは無関係なので、まずはAliceとカレーフェアの関係だけを考えます。Aliceとカレーフェアを結ぶ線にパラメータを定義します。これを 重み(weight) と呼び、 $WacW_{ac}$で表すことにしましょう。この重みが正なら「Aliceが学食に来て、かつカレーフェアもやっている確率が高い」、つまりAliceがカレーを好きだということを表すことにします。逆にこの重みが負なら、「Aliceが学食にきて、かつカレーフェアもやっている確率は低い」、すなわちAliceがカレーを嫌いだということを表します。

今回のケースでは、Aliceはカレーが嫌いですから、$Wac<0W_{ac}<0$です。同様にBobとカレーの関係を表す重みを$WbcW_{bc}$で表します。ボブはカレーが好きなので$Wbc>0W_{bc}>0$です。

次に、カレーフェアがやっていない時に、Aliceが学食にくる確率を考えましょう。先程の表から、カレーフェアの開催の有無とAliceが学食に来たかどうかの表はこうなります。

A	C	日数
x	x	35
x	o	56
o	x	140
o	o	8

まず、カレーフェアがやっていない日について考えましょう。カレーフェアの無い日は35+140=175日ありました。そのうち、Aliceが学食に来たのは140日ですから、4/5の確率で学食に来ています。

カレーフェアとAliceの関係を表す重み$WacW_{ac}$は、「カレーフェアが開催されており、かつAliceが学食にくる可能性の高さ」を表すパラメータなので、カレーフェアが開催していない時には関係ありません。そこで、新たに「他に何も条件がない場合にAliceが学食に来る可能性の高さ」を表すパラメータを導入しましょう。これを バイアス(bias) と呼び、$bab_a$で表します。$ba>0b_a>0$なら、何もない時にAliceが学食に出現する確率が高いことを、$ba<0b_a<0$なら、出現する確率が低いことを表します。全く同様にして、Bobの学食の出現しやすさを表すバイアス$bbb_b$、カレーフェアの開催確率の高さを表すバイアス$bcb_c$を定義します。

以上で、このモデルを表現するための全ての変数とパラメータが準備できました。

• 変数
  • $vav_a$ Aliceが学食に来ているか。
  • $vbv_b$ Bobが学食に来ているか。
  • $hch_c$ カレーフェアは開催しているか。
• パラメータ
  • $bab_a$ Aliceが学食に来る可能性の高さを表すバイアス。
  • $bbb_b$ Bobが学食に来る可能性の高さを表すバイアス。
  • $bcb_c$ カレーフェアが開催される可能性の高さを表すバイアス。
  • $WacW_{ac}$ カレーフェアが開催されている時に、Aliceが学食に来る可能性の高さを表す重み。
  • $WbcW_{bc}$ カレーフェアが開催されている時に、Bobが学食に来る可能性の高さを表す重み。

変数はこのグラフの頂点(Node)で定義され、0か1の二値を取ります。バイアスも頂点で定義され、正なら変数が1になりやすく、負なら0になりやすい傾向を表現します。重みは辺(Edge)で定義され、辺がつなぐ2つの頂点の関係を表し、正なら両者が同時に1になりやすく、負ならそうではないことを表しています。

パラメータから確率への変換

$XX$, $YY$, $ZZ$という事象があるとします。これらのどれかは必ず起きますが、2つ以上同時には起きない(排反事象)としましょう。この3つの事象の「起きやすさ」を表すパラメータを、それぞれ$xx$,$yy$,$zz$とします。これらのパラメータから、例えば$XX$が起きる確率をどのように作ればよいでしょうか？

確率が満たすべき条件は、任意の事象の起きる確率が非負の実数で、確率の総和が$11$になるというものです。先程のパラメータ$xx$,$yy$,$zz$は、実数である、という以外の条件はついていません。このパラメータから、例えば$XX$が起きる確率を作るのにSoftmaxと呼ばれる関数を使うのが便利です。

$$P(X)=exp⁡(x)exp⁡(x)+exp⁡(y)+exp⁡(z) P(X) = \frac{\exp(x)}{\exp(x)+\exp(y)+\exp(z)}$$

要するに、全てのパラメータを指数関数の肩に乗せ、その総和を分母に、自分のパラメータを分子にしたものを「自分が起きる確率」とするものです。指数関数の定義から、どんな実数$xx$に対しても$exp⁡(x)>0\exp(x) >0$であり、分母にその総和を持ってきているので、$XX$、$YY$、$ZZ$のどれかが起きる確率は$11$になります。

さて、事象が$XX$と$YY$の2つしかない場合を考えましょう。それぞれのパラメータを$xx$、$yy$とすると、$XX$が起きる確率$P(X)P(X)$と、$YY$が起きる確率$P(Y)P(Y)$はそれぞれこう書けます。

$$P(X)=exp⁡(x)exp⁡(x)+exp⁡(y) P(X) = \frac{\exp(x)}{\exp(x)+\exp(y)}$$

$$P(Y)=exp⁡(y)exp⁡(x)+exp⁡(y) P(Y) = \frac{\exp(y)}{\exp(x)+\exp(y)}$$

上記の式は、

• 事象$XX$ : パラメータ $xx$
• 事象$YY$ : パラメータ $yy$

について、Softmax型の関数につっこんで確率を作ったものです。これらの分子と分母をそれぞれ$exp⁡(y)\exp(y)$で割ってみましょう。

$$P(X)=exp⁡(x−y)exp⁡(x−y)+1=11+exp⁡(y−x) P(X) = \frac{\exp(x-y)}{\exp(x-y)+1} = \frac{1}{1+\exp(y-x)}$$

$$P(Y)=1exp⁡(x−y)+1 P(Y) = \frac{1}{\exp(x-y)+1}$$

これは、

• 事象$XX$ : パラメータ $x−yx-y$
• 事象$YY$ : パラメータ $00$

である場合と等価です。つまり、パラメータをSoftmax型の関数に入れて確率を作る場合、お互いのパラメータの差しか関係しません。$XX$と$YY$は排反事象、すなわちどちらかが必ず起きて、同時には起きないのですから、事象$XX$が起きるか起きないかだけに注目することにします。事象$XX$が起きるパラメータを改めて$x′=x−yx'=x-y$とすると、事象$XX$が起きないパラメータは0です。この時、Softmax関数で確率を作ると、$XX$が起きる確率は

$$P(X)=exp⁡(x′)exp⁡(x′)+1=11+exp⁡(−x′) P(X) = \frac{\exp(x')}{\exp(x')+1} = \frac{1}{1+\exp(-x')}$$

となります。これをロジスティック関数(logistic function)と呼びます。このように、ロジスティック関数は、多変数のSoftmax関数の特別な場合とみなすことができます。

以上により、それぞれパラメータが定義された事象の起きる確率をSoftmax関数で定義できること、特に「ある事象がおきるか起きないか」の確率はロジスティック関数で定義できることがわかりました。

モデルパラメータの決定

Aliceに関係するパラメータ

さて、Aliceはカレーフェアが無い日には4/5の確率で学食に来ます。カレーフェアが無い場合は、カレーフェアとの重み$WacW_{ac}$は無関係なので、Aliceが学食にくるかどうかはバイアス$bab_a$だけで決まります。ある事象が起きるか起きないかは、ロジスティック関数を使えば確率になるのでした。

$$P(va=1,hc=0)=exp⁡(ba)1+exp⁡(ba) P(v_a = 1,h_c=0) = \frac{\exp(b_a)}{1 + \exp(b_a)}$$

$P(va=1,hc=0)=4/5P(v_a = 1, h_c=0) = 4/5$ですから、

$$exp⁡(ba)=4 \exp(b_a) = 4$$

と決まります。また、カレーフェアが無い日にAliceが学食に来ない確率は$P(va=0)=1−P(va=1)P(v_a=0) = 1 - P(v_a=1)$ですから、

$$P(va=0,hc=0)=11+exp⁡(ba) P(v_a = 0,h_c=0) = \frac{1}{1 + \exp(b_a)}$$

です。上記2つの確率を見ると、$va=1v_a=1$の時はパラメータ$bab_a$の事象が起きる確率を、$va=0v_a=0$の時にはパラメータ$00$の事象が起きる確率を表現しているので、変数$vav_a$を使ってまとめて、

$$P(va,hc=0)=exp⁡(vaba)1+exp⁡(ba) P(v_a,h_c=0) = \frac{\exp(v_a b_a)}{1+ \exp(b_a)}$$

と書くことができます。$vav_a$に0や1を代入すれば、$P(va=0)P(v_a=0)$や$P(va=1)P(v_a=1)$の値が得られることがわかるでしょう。分母を和の形に書くと

$$P(va,hc=0)=exp⁡(vaba)∑va0,1exp⁡(vaba) P(v_a,h_c=0) = \frac{\exp(v_a b_a)}{\sum_{v_a}^{0,1} \exp(v_a b_a)}$$

となります。

次に、カレーフェアがある日について考えましょう。カレーフェアがある日は、カレーフェアの有無を表す変数$hch_c$の値が$11$になります。したがって、カレーフェアのバイアス$bcb_c$も有効になります。また、「カレーフェアがあり、かつAliceが学食に来る確率の高さ」を表す重み$WacW_{ac}$もパラメータに加わります。以上から、

• 事象$XX$: カレーフェアがあり、かつAliceが来る時のパラメータ: $ba+bc+Wacb_a + b_c + W_{ac}$
• 事象$YY$: カレーフェアがあり、かつAliceがこない時のパラメータ: $bcb_c$

です。それぞれのパラメータを指数関数の肩に乗せれば確率を得ることができます。

$$P(va=1,hc=1)=exp⁡(ba+bc+Wac)exp⁡(ba+Wac)+exp⁡(bc)P(va=0,hc=1)=exp⁡(ba+bc+Wac)exp⁡(ba+Wac)+exp⁡(bc) \begin{aligned} P(v_a=1, h_c=1) &= \frac{\exp(b_a + b_c + W_{ac})}{\exp(b_a + W_{ac}) + \exp(b_c)} \\ P(v_a=0, h_c=1) &= \frac{\exp(b_a + b_c + W_{ac})}{\exp(b_a + W_{ac}) + \exp(b_c)} \end{aligned}$$

分子分母に共通する$exp⁡(bc)\exp(b_c)$で割ると以下の形になります。

$$P(va=1,hc=1)=exp⁡(ba+Wac)exp⁡(ba+Wac)+1P(va=0,hc=1)=exp⁡(ba+Wac)exp⁡(ba+Wac)+1 \begin{aligned} P(v_a=1, h_c=1) &= \frac{\exp(b_a + W_{ac})}{\exp(b_a + W_{ac}) + 1} \\ P(v_a=0, h_c=1) &= \frac{\exp(b_a + W_{ac})}{\exp(b_a + W_{ac}) + 1} \end{aligned}$$

上記の確率は、先程の事象の重みを以下のように与えたのと等価です。

• 事象$XX$: カレーフェアがあり、かつAliceが来る時のパラメータ: $ba+Wacb_a + W_{ac}$
• 事象$YY$: カレーフェアがあり、かつAliceがこない時のパラメータ: $00$

これは、パラメータをSoftmax関数を使って確率を作る場合、パラメータは差しか関係がないことに対応しています。

先ほどの表をもう一度見てみましょう。

A	C	日数
x	x	35
x	o	56
o	x	140
o	o	8

カレーフェアがあった日は56+8=64日です。そのうち、Aliceが学食に来たのは8日、つまり1/8の確率でしか学食に来ていません。

従って、

$$P(va=1,hc=1)=exp⁡(ba+Wac)exp⁡(ba+Wac)+1=18 P(v_a=1, h_c=1) = \frac{\exp(b_a + W_{ac})}{\exp(b_a + W_{ac}) + 1} = \frac{1}{8}$$

です。先程求めた

$$exp⁡(ba)=4 \exp(b_a) = 4$$

とを使って解けば、

$$exp⁡(Wac)=128 \exp(W_{ac}) = \frac{1}{28}$$

と求めることができます。以上からカレーフェアのある日のAliceの出現確率を、以下のように表すことができました。

$$P(va=0,hc=1)=exp⁡(ba+Wac)exp⁡(ba+Wac)+1=18P(va=1,hc=1)=1exp⁡(ba+Wac)+1=78 \begin{aligned} P(v_a=0, h_c=1) &= \frac{\exp(b_a + W_{ac})}{\exp(b_a + W_{ac}) + 1} = \frac{1}{8}\\ P(v_a=1, h_c=1) &= \frac{1}{\exp(b_a + W_{ac}) + 1} = \frac{7}{8} \end{aligned}$$

後で$hc=0h_c=0$の場合とまとめるため、先程無視したカレーフェアのバイアス$bcb_c$も入れておきましょう。

$$P(va=0,hc=1)=exp⁡(ba+bc+Wac)exp⁡(ba+bc+Wac)+1=18P(va=1,hc=1)=exp⁡(bc)exp⁡(ba+bc+Wac)+1=78 \begin{aligned} P(v_a=0, h_c=1) &= \frac{\exp(b_a + b_c + W_{ac})}{\exp(b_a + b_c + W_{ac}) + 1} = \frac{1}{8}\\ P(v_a=1, h_c=1) &= \frac{\exp(b_c)}{\exp(b_a + b_c + W_{ac}) + 1} = \frac{7}{8} \end{aligned}$$

分子分母に$exp⁡(bc)\exp(b_c)$をかけただけです。$hc=0h_c=0$の場合と同様に、これを変数$va,hav_a,h_a$を使って和の形にまとめましょう。

$$P(va,hc)=exp⁡(bava+bchc+Wacvahc)∑va,hcexp⁡(bava+bchc+Wacvahc) P(v_a, h_c) = \frac{\exp(b_a v_a+ b_c h_c + W_{ac} v_a h_c)}{\sum_{v_a, h_c}\exp(b_a v_a+ b_c h_c + W_{ac} v_a h_c)}$$

ただし和は$va=0,1v_a = 0, 1$、$hc=0,1h_c = 0,1$の4通りについて取ります。右辺は、カレーフェアの有無とAliceが学食にくる確率との関係を表すモデルであるとみなすことができます。$P(va,hc)P(v_a, h_c)$の変数$vav_a$、$hch_c$に0と1の好きな値を代入すれば、知りたい事象の確率を得ることができます。モデルパラメータは、バイアス$bab_a$と重み$WacW_{ac}$です。パラメータとして、カレーフェアのバイアス$bcb_c$も入っていますが、これは現時点では分子分母でキャンセルしてしまうので、値が決まりません。

Bobに関係するパラメータ

Aliceと同様に、Bobに関係するパラメータも決めていきましょう。Bobが学食に来たかどうかと、カレーフェアの開催の有無の表はこうなります。

B	C	日数
x	x	140
x	o	8
o	x	35
o	o	56

カレーフェアが無い日にBobが学食に来る確率から、Bobのバイアス$bbb_b$が求まります。

$$P(vb=1,hc=0)=exp⁡(bb)1+exp⁡(bb)=15 P(v_b=1, h_c=0) = \frac{\exp(b_b)}{1 + \exp(b_b)} = \frac{1}{5}$$

から、

$$exp⁡(bb)=14 \exp(b_b) = \frac{1}{4}$$

と求められます。また、Aliceと同様な手続きにより、カレーフェアのある日のBobの出現確率が$7/87/8$であることから、

$$exp⁡(Wbc)=28 \exp(W_{bc}) = 28$$

と求められます。

カレーフェアに関するパラメータ

ここまでで、AliceとBobのバイアス$ba,bbb_a, b_b$と、カレーフェアとの重み$Wac,WbcW_{ac}, W_{bc}$が求まりました。残るパラメータはカレーフェアのバイアス$bcb_c$だけです。こちらを求めるのは簡単で、AliceとBobが両方学食に来ていない時のカレーフェアの開催確率を見ればOKです。最初の表から関連するところを抜粋してみましょう。

A	B	C	日数
x	x	x	28
x	x	o	7

AliceもBobも学食に来ていない日は35日間あり、そのうちカレーフェアをやっていたのは7日間でした。つまり、AliceもBobも学食に来ていない日にカレーフェアが開催される確率は$1/51/5$です。

これをバイアス$bcb_c$を使って表すと、

$$P(va=0,vb=0,vc=1)=exp⁡(bc)1+exp⁡(bc)=15 P(v_a=0, v_b = 0, v_c=1) = \frac{\exp(b_c)}{1+\exp(b_c)} = \frac{1}{5}$$

です。ここから、

$$exp⁡(bc)=14 \exp(b_c) = \frac{1}{4}$$

と求められます。

以上から、全てのバイアスと重みを求めることができました。

ボルツマンマシンの統計力学的解釈

我々が欲しいのは、

• A: Aliceが学食に来る/来ない
• B: Bobが学食に来る/こない
• C: カレーフェアが開催している/していない

というA, B, Cの3つの事象について、同時確率を与えるモデルでした。そのために、それぞれの事象に対応する変数$va,vb,hcv_a, v_b, h_c$を用意し、それぞれに0か1を代入すると、欲しい確率を返す確率モデル$P(va,vb,hc)P(v_a, v_b, h_c)$を作りました。その具体的な形は以下の通りです。

$$P(va,vb,hc)=exp⁡(bava+bbvb+bchc+Wacvahc+Wbcvbhc)∑va,vb,hcexp⁡(bava+bbvb+bchc+Wacvahc+Wbcvbhc) P(v_a, v_b, h_c) = \frac{\exp(b_a v_a+ b_b v_b+ b_c h_c + W_{ac}v_a h_c + W_{bc}v_b h_c)}{\sum_{v_a, v_b, h_c}\exp(b_a v_a+ b_b v_b+ b_c h_c + W_{ac}v_a h_c + W_{bc}v_b h_c) }$$

分子と分母に長ったらしい同じ式が出てきているのでまとめたくなりますね。これを$HH$という関数で表現しましょう。後のために負符号をつけておきます。

$$H(va,vb,hc)=−(bava+bbvb+bchc+Wacvahc+Wbcvbhc) H(v_a, v_b, h_c) = -(b_a v_a+ b_b v_b+ b_c h_c + W_{ac}v_a h_c + W_{bc}v_b h_c)$$

$a,b,ca,b,c$を、それぞれ$1,2,31,2,3$と通し番号を振ります。そして、$vav_a$を$σ1\sigma_1$、$vbv_b$を$σ2\sigma_2$、$hch_c$を$σ3\sigma_3$と名前をつけ直しましょう。すると、先程の$HH$の形がすこしすっきり書けます。

$$H({σi})=−∑ibiσi−∑i<jJijσiσj H(\{\sigma_i\}) = -\sum_i b_i \sigma_i -\sum_{i<j} J_{ij} \sigma_i \sigma_j$$

ここで、$b1=ba,b2=bb,b3=bc,J12=0,J13=Wac,W23=Jbcb_1 = b_a, b_2 = b_b, b_3 = b_c, J_{12} = 0, J_{13} = W_{ac},W_{23} = J_{bc}$です。

この式を見ると、まるで各サイト$ii$に局所的な磁場$bib_i$がかかり、サイト$ii$とサイト$jj$の間に相互作用$JijJ_{ij}$があるようなイジングスピン系のエネルギーであるかのように見えます。

この$HH$を使うと、確率は以下のように書けます。

$$P({σi})=exp⁡(−H)∑{σi}exp⁡(−H) P(\{\sigma_i\}) = \frac{\exp{(-H)}}{\sum_{\{\sigma_i\}} \exp{(-H)}}$$

ただし$∑{σi}\sum_{\{\sigma_i\}}$は、全てのスピンの状態に関する和をとる、という意味で、この場合は$σ1=0,σ2=0,σ3=0\sigma_1 = 0, \sigma_2 = 0, \sigma_3 = 0$から$σ1=1,σ2=1,σ3=1\sigma_1 = 1, \sigma_2 = 1, \sigma_3 = 1$まで、8通りの状態の和を意味しています。

この式は、$HH$をエネルギーだとみなした時、その状態がボルツマン重み$exp⁡(−H)\exp{(-H)}$に比例して実現する、という統計力学の原理と全く同じ形をしています。

分母はよく使うので、$ZZ$という名前をつけておきましょう。

$$Z=∑{σi}exp⁡(−H) Z = \sum_{\{\sigma_i\}} \exp{(-H)}$$

です。これは統計力学における分配関数にほかなりません。

このように、状態を表す変数の値が0か1の二値であり、ある変数の状態の実現確率がボルツマン重みで記述されるようなモデルをボルツマンマシン(Boltzmann machine)と呼びます。ボルツマンマシンは、パラメータが決まってしまえば、任意の変数の状態の同時確率や条件付き確率を計算することができるマシンです。

特に、スピンを2つのグループにわけることができて、同じグループ内に相互作用が無い場合を 制限ボルツマンマシン(restricted Boltzmann machine, RBM) と呼びます。今回のケースはRBMになっています。RBMは表現能力が高いまま、学習が容易になるという特徴を持っており、広く使われています。

例えば、Aliceが学食に来て$(va=1)(v_a=1)$、Bobが学食に来ていない$vb=0v_b=0$、という条件において、カレーフェアが開催している($hc=1h_c=1$)という確率を計算してみましょう。

条件付き確率の定義から

$$P(hc=1∣va=1,vb=0)=P(hc=1,va=1,vb=0)P(va=1,vb=0) P(h_c=1 | v_a=1, v_b=0) = \frac{P(h_c=1,v_a=1, v_b=0)}{P(v_a=1, v_b=0)}$$

となります。

右辺の分子、分母をそれぞれ書き下すと、

$$P(hc=1,va=1,vb=0)=exp⁡(ba+bc+Wac)Z P(h_c=1,v_a=1, v_b=0) = \frac{\exp({b_a + b_c + W_{ac}})}{Z}$$

$$P(va=1,vb=0)=P(va=1,vb=0,hc=0)+P(va=1,vb=0,hc=1)=exp⁡(ba)Z+exp⁡(ba+bc+Wac)Z \begin{aligned} P(v_a=1, v_b=0) &= P(v_a=1, v_b=0, h_c=0)+P(v_a=1, v_b=0, h_c=1)\\ &= \frac{\exp{(b_a)}}{Z} + \frac{\exp(b_a+b_c+W_{ac})}{Z} \end{aligned}$$

これを代入すると、分子分母で$ZZ$と$exp⁡(ba)\exp{(b_a)}$がキャンセルするので、

$$P(hc=1∣va=1,vb=0)=exp⁡(bc+Wac)1+exp⁡(bc+Wac) P(h_c=1 | v_a=1, v_b=0) = \frac{\exp{(b_c + W_{ac})}}{1+\exp{(b_c + W_{ac})}}$$

ここで、

$$exp⁡(bc)=14exp⁡(Wac)=128 \begin{aligned} \exp({b_c}) &= \frac{1}{4}\\ \exp({W_{ac}}) &= \frac{1}{28}\\ \end{aligned}$$

でしたから、代入すると、

$$P(hc=1∣va=1,vb=0)=1113 P(h_c=1 | v_a=1, v_b=0) = \frac{1}{113}$$

となります。

確かめてみましょう。最初の表の、「Aliceが来て」「Bobが来ていない」ところだけを抜き出しました。

A	B	C	日数
o	x	x	112
o	x	o	1

そんな日は113日間ありましたが、そのうちカレーフェアがやっていたのは1日だけなので、「Aliceがきて、Bobが来ていない日にカレーフェアがやっている確率」は1/113でした。正しく求められていますね。

まとめ

ボルツマンマシン、特に制限ボルツマンマシンについて、簡単な例でモデルを構築し、モデルパラメータを求めてみました。今回は全ての原因を知っている全知全能の立場に立ちましたが、一般には隠れ層の情報(今回のケースでのカレーフェアの情報)は知らないままモデルを作らなければいけません。そのために、隠れ層がどんな形か仮定し、可視層の情報だけから重みとバイアスを決定する必要があります。これがボルツマンマシンにおける学習です。

ボルツマンマシンの学習とは、与えられた可視層の情報を「一番もっともらしく」表現できるモデルを探すこと、すなわちパラメータの最尤推定です。これにより、例えば文字を学習したボルツマンマシンに、右半分を隠された文字を入力し、隠された部分を推定させる、といったことができます。一般のボルツマンマシンの学習は極めて大変ですが、制限ボルツマンマシンの場合は効率の良い学習方法が知られています。そのあたりは「制限ボルツマンマシンの基礎 ～学習編～」で(もし書けたら)触れます。

制限ボルツマンマシンの基礎 ～推定編～へ続く。

参考

• Restricted Boltzmann Machines (RBM) - A friendly introduction Boltzmann Machineの説明動画で一番わかりやすかったもの。上記の例もこの動画を大いに参考にして作りました。
• Ali Ghodsi, Lec [7], Deep Learning , Restricted Boltzmann Machines (RBMs) Ali GhodsiによるWaterloo大学での講義動画。ボルツマンマシンが明快に説明されています。こういう動画が気軽に見られるとは、良い時代になったものです。

脚注

1. この学食では「カレーフェア」のポスターや旗などは出しておらず、外からその開催の有無を判断できません。それじゃどうやってAliceやBobはカレーフェアの開催の有無を知るかって？Lineかウェブサイトでチェックしてるんじゃないですか？(投げやり)