Zenn
Open12

機械学習について

PyTorch
Python 3
JupyterLab
nikuniku

今まで、適当にコードを書いて機械学習を実行してみたが、nanが出力されてしまう状況だった。
pytorchを使っていたのだが、そもそも、上っ面のコードを真似て少し変更という形式で実装していたので、何が悪かったのか検討もつかない状況だ。

なので、pytorchでできることは何だろうか、どこを読めばいいのだろうかと探した結果、今の自分に最適な情報源かどうかはわからないが、https://pytorch.org/tutorials/beginner/basics/intro.html
から順々に読み進めていた。

Zennに出会ったのはつい最近で、すでにhttps://pytorch.org/tutorials/beginner/basics/autogradqs_tutorial.html
の手前までは読んでいるので、ここから読み進めて記録する

nikuniku

https://pytorch.org/tutorials/beginner/basics/autogradqs_tutorial.html#automatic-differentiation-with-torch-autograd

§Automatic Differentiation with torch.autogradを読む

読んだ結果覚えるべきことをまとめると
・ニューラルネットワーク学習用アルゴリズムのデファクトスタンダードはback propagation
・例に漏れずpytorchでもback propagationを導入している

・back , propagationとは学習可能な変数wを持つ

損失関数L(w)の勾配 \frac{\partial L}{\partial w}(w)

を用いて L(w)を最小化するパラメータwを探す方法

・PyTorchでは勾配計算のために torch.autogradと呼ばれる微分エンジン（何それ？）が組み込まれている。
・torch.autogradは任意の計算グラフ（何それ？）の勾配の自動計算をサポートする。
（感想：書いてあることは理解できていないが、単純に勾配を簡単に計算できるモジュールがtorch.autogradなのだろう）

nikuniku

Tensors, Functions and Computational graphを読む

表示されている計算グラフについての感想：
グラフを観察すると、
データ（入力データ、教師データ、パラメータ）と損失関数がリーフ
演算がノード
になっていると思ったが、データzはノードなので、そういうわけでもなさそうだ。
データと演算がごっちゃになってるが、こんな図でよいのだろうか？

ということで計算グラフ作成時のマイルールを作ってみる。
計算グラフの自分ルール：

  1. データ（Tensor）は長方形で表現
  2. 演算・関数（Function）は丸で表現
  3. データ（Tensor）の流れを矢印で表現
  4. データでもパラメータは灰色に色付けする
    ということにする。

覚えるべきこと：

・PyTorchではデータはtorch.Tensorオブジェクトである
・パラメータ（学習可能なデータ）はTensor オブジェクトのプロパティrequires_gradがTrueになっているものである
（xをTensorオブジェクトであるとすると後付けでx.requires_grad_(True)メソッドを使うことでパラメータにすることが可能）
・PyTorchでは演算はtorch.autograd.Functionオブジェクトである（自分の推測）

（感想：ちょっと自動微分がよくわからないので、勉強してみる）

nikuniku

自動微分について勉強する

かなり昔
https://www.oreilly.co.jp/books/9784873117584/
に計算グラフの話が書いてあったはずなので、引っ張り出して再勉強してみる。
「５章　誤差逆伝播法」に該当の情報があるはずなのでここをしっかりと理解しながら読むことにする

5.1.1計算グラフで解く　を読む

自分の理解を助けるために、計算グラフの構築ルールをカスタマイズして作成した。

計算グラフ構築のマイルール

  1. データは長方形で表現
  2. 演算は丸で表現
  3. データの流れを矢印で表現（矢印の上にデータの値を記載する）

これに従って、同セクションの問2

「問 2：太郎くんはスーパーでリンゴを 2 個、みかんを 3 個買いました。リンゴは1 個 100 円、みかんは 1個 150 円です。消費税が 10% かかるものとして、支払う金額を求めなさい。」

の計算グラフの構築をきちんとマイルールに則り、手で書いて理解を深める。その様子をprocreateのタイムラプスで作成した結果を乗せる

計算グラフを手書きで構築

このように左から右に普通に計算する方法を順伝播（foward propagation）という

nikuniku

自動微分について勉強する（つづき）

5.2.1 計算グラフの逆伝播　を読む

ここが、今のところ最重要ポイント、まずは逆伝播の計算ルールをきっちりと覚えておくこと（何故そうするかの説明は後で出てくるが、ルールを覚えないことにはその説明もままならない）

計算グラフの逆伝播の計算ルール

  1. 計算グラフのある１つのノードのみに着目する
  2. そのノードの入力x, 出力yに着目する
  3. yとxから偏微分\frac{\partial y}{\partial x}を計算する（というかしておく）
  4. 下流から値Eが入力されたら、上流にE\frac{\partial y}{\partial x}を出力する


まずは、あるノードに対して順伝播といったときの計算ルールと逆伝播といったときの計算ルールを覚えよう

nikuniku

計算グラフの順伝播と逆伝播の理解のための図（要改良）


文字が潰れて読めないしゴチャゴチャしすぎている

nikuniku

計算グラフの順伝播と逆伝播の理解のための図ver2（要改良）

まあ、でも俺は理解できたしいいか。次に行く

nikuniku

計算グラフのことがここまで理解できれば
https://pytorch.org/tutorials/beginner/basics/autogradqs_tutorial.html#automatic-differentiation-with-torch-autograd
を再度読んでピンと来るようになるだろう。
明日からもう一度チャレンジ

自動微分ってのは、多分
１．計算グラフ各ノード順伝播（forward関数）計算時に逆伝播（backward関数）計算に必要なパラメータを記憶しておく
２．あとは計算グラフ逆伝播計算ルールに従って計算することで連鎖律により学習に必要な微分係数が算出できる
ってこと

nikuniku

Computing Gradients を読む

損失関数をlossとして、その微分係数を算出するには

  1. loss.backward()　という関数を呼び出す
  2. 学習可能なTensorとしてw, bがあるとすると、そのgradプロパティが、微分係数となる

例：
loss.backward()
print(w.grad)
print(b.grad)

nikuniku

Disabling Gradient Tracking を読む

計算の高速化やパラメータの固定化のために
Tensorオブジェクトの勾配計算を無効化できる。

方法１：
with torch.no_grad():
を使う
例：

with torch.no_grad():
    z = torch.matmul(x, w)+b

方法２：
detach()
を使う
例：

z_det = z.detach()
nikuniku

PackedSequenceについて

PackedSequenceは長さの異なるシーケンスのリストをpack_sequenceメソッドに入力して作成する。
PackedSequenceが所持する情報から、元のシーケンスを再現したり、パディングしたシーケンスを構築したりするための理解を目指す

まずはPackedSequenceを生成するための長さが不揃いのシーケンスのリストを作成表示する

PackedSequenceを生成用の長さ不揃いのシーケンス
from torch.nn.utils.rnn import pack_sequence, pad_packed_sequence
import torch

a = torch.tensor([1,2,3])
b = torch.tensor([4,5])
c = torch.tensor([6])
d = torch.tensor([7,8,9])
e = torch.tensor([10])
input_data = ([a,b,c,d,e])
print(input_data)
実行結果
[tensor([1, 2, 3]), tensor([4, 5]), tensor([6]), tensor([7, 8, 9]), tensor([10])]

長さが3,2,1,2,3のシーケンスのリストができていることがわかる
それぞれの名前をa,b,c,d,eとする

Packedシーケンスを生成・表示
packed = pack_sequence(input_data, enforce_sorted=False)
print(packed)
実行結果
PackedSequence(data=tensor([ 1,  7,  4,  6, 10,  2,  8,  5,  3,  9]), batch_sizes=tensor([5, 3, 2]), sorted_indices=tensor([0, 3, 1, 2, 4]), unsorted_indices=tensor([0, 2, 3, 1, 4]))

PackedSequenceのdataは、元のシーケンスの要素が並んでいそうであることがわかる、データ自体はあるので後は残りの情報からいかにして、復元できるか規則性を観察する

まずは、batch_sizesに着目して観察してみる、

観察した結果

再現のためのステップ
Step1. batch_sizesのindex=0の値分だけ、dataから要素を取り出し、列ベクトルとして並べる
Step2. batch_sizesのindex=1の値分だけ、dataからStep1の続きから要素を取り出し、列ベクトルとして並べる
Step3.batch_sizesのindex=2の値分だけ、dataからStep2の続きから要素を取り出し、列ベクトルとして並べる
これで、長さの異なるシーケンスの元データが復元できる、さらのunsorted_indicesを使って、各シーケンスを並び替えるとa,b,c,d,eの並びになってめでたしめでたし