Open8
ピアノ採譜AIつくりたい
いろいろやっててだんだん複雑になってきたのでまとめる
Fくんのまとめ
方針
hft-transformerを改造していく方向で進める
目標
- ノートのサイズを適切にする
- 明らかに人の手で引いているとは思えないものをなくす
- 極端に長い、短いノートをなくす
- ペダルのオンオフを推論する
実験1
データセットのラベルで、各ノートにpedalon, pedaloffの時間を与えて学習する。
結果
あんま上手くいかなかった
実験2
データセットにノートとは別でペダルのオンオフを示すラベルを作り、学習する。
Decoder内のモジュールは共有
結果
ペダルは3epochほど学習させていると、推論するようになった。
ノートは5epochまで回しても一切推論しなかった。
実験3
実験2と同じデータセットで、Decoder内のモジュールをペダル、ノートで分離
結果
ノートの形がすごくきれいになった。
ペダルは3epochほど学習すると推論されるように(いい線いってた)、しかし10epochほど学習したら今度は一切推論されなくなった。
実験4
ペダルとノートで完全にモデルを分離
結果
now loading...
割とよさそう、lossの値は微妙だけど推論結果は若干いい感じになってる
実験3と同じように、学習が進んでから推論できなくなっちゃうことがないことを祈る