Open9

"ベイズ統計の理論と方法" の誤植っぽいところ検討&報告していく

nrnrknrnrk

概要

ベイズ統計の理論と方法(初版第6刷)を読んでいます。

非常に面白くわかりやすい本で、特に物理学に造詣のある人には刺さりやすいベイズ統計の理論の本ではなかと思います。

誤植かも?と思ったところを公開して、検討していきます。自信が持てたものはきちんと報告していくので、基本的には筆者のホームページを見ていただく方が良いです。

目的

個人として

  • 誤植かどうか判断が最初つかない部分も忘れないようにメモしたい

他の人にとって

  • 私が誤植と勘違いするところは他の人にとっても勘違いしやすいかもしれない(そして、この内容は正誤表には載らない)ので参考になるかも
  • 正誤表に反映される前に情報を得られる可能性がある

参考

筆者のホームページはこちらです。ミスプリント以外も充実していてありがたいです。

nrnrknrnrk

p.42 の正規化された分配関数 Z_n(\beta)

Z_n(\beta) = \exp(-\beta L_n(w_0)) \cdot Z_n^{(0)} (\beta)

Z_n(\beta) = \exp(- n \beta L_n(w_0)) \cdot Z_n^{(0)} (\beta)
nrnrknrnrk

式変形して確認してみる。分配関数は次のように表される。

Z_n(\beta) = \int \exp(-n \beta L_n(w)) \varphi(w) dw

一方、L_n(w)L_n(w_0)K_n(w) を使って次のように書ける。

L_n(w) = L_n(w_0) + K_n(w)

これを代入すると、L_n(w_0)w の関数でないので次のように整理できる。

\begin{aligned} Z_n(\beta) &= \int \exp(-n \beta (L_n(w_0) + K_n(w)) \varphi(w) dw \\ &= \exp(-n \beta L_n(w_0)) \int \exp(-n \beta K_n(w) \varphi(w) dw \end{aligned}

正規化された分配関数 Z_n^{(0)}(\beta) は、

Z_n^{(0)}(\beta) = \int \exp(-n \beta K_n(w)) \varphi(w) dw

と定義されるので、

Z_n(\beta) = \exp(- n \beta L_n(w_0)) \cdot Z_n^{(0)} (\beta)

が得られる。

nrnrknrnrk

指摘は正しそう。

5,6,7刷用のミスプリント資料[1] には記載がないので報告しようと思ったけど、よく見ると 3刷用のミスプリント資料[2]には載っていた...

よくよく見ると、過去の刷のミスプリント情報は新しい刷で反映されているかというとそうではなく多くはそのまま残っているようだった。つまり、(少なくとも6刷の本は) 筆者ホームページミスプリント情報は第1刷のものから全て確認する必要がありそう。

脚注
  1. part1part2 ↩︎

  2. リンク ↩︎

nrnrknrnrk

p.41 の "カルバック・ライブラ情報量の性質から K(w) \geq 0 "もよくわからないなと思っていたが、同じく3刷のミスプリント情報で "定義3における W_0 の定義から K(w) \geq 0" に修正されていることも発見...!

結構なボリュームがあるので、これから読む人は読みながら適宜ペンで直していくことをお勧めします...!

nrnrknrnrk

p.42 下から6行目 汎化誤差、経験誤差


汎化誤差
経験誤差


正規化された汎化損失
正規化された経験損失

nrnrknrnrk

直前の定義と表現が違うので多分そう。他とまとめて連絡予定。

nrnrknrnrk

p.32 下から3行目 行列が正則


行列が正則


行列が正定値

nrnrknrnrk

正定値行列を正則行列と呼ぶケースももしかしたらあるかもしれないが、見つけられていない。
正則行列(regular matrix) は多くのケースでは逆行列が存在する正方行列を指すことが多いと思っているが微妙なところ。ここも他と合わせて連絡予定。