自己紹介

こんにちは、初めまして。

この度、zennを使って勉強したことをまとめることにしました。
記事を書こうと思ったきっかけは色々あるのですが、一番はアウトプットした方が身に付くかなぁと思ったからです。
最近微分幾何の勉強をしているのですが、進度が芳しくないので違う勉強法をやってみた、ということです。
いつまで続くかわからず、雑多な内容になるかもしれませんが、よろしくお願いします。

自己紹介

東大情報理工M2です。興味は最適化アルゴリズムです。特に、理論に基づいた最適化アルゴリズムに興味があります。
今研究しているのは自然勾配法です。
最適化や情報理論はそれだけだと抽象的でイメージが難しく興味を持てなかったのですが、幾何学的な解釈ができる事実に感動しました。
自然勾配法の発展に興味があることはもちろん、今は最適輸送との関わりにも興味を持っています。
(こちらのワークショップでその話をききました)
https://webpark2072.sakura.ne.jp/otworkshop/

最近の興味や勉強内容は以下です。順にまとめていきたいと思います。

• 自然勾配法の応用と発展
  • 特にWu Linの研究が面白いと思ってます。
    https://yorkerlin.github.io/
• Wasserstein幾何とその空間での勾配法
• メタヒューリスティクスと自然勾配の関係
  • IGOやNESと呼ばれる手法です。
    https://jmlr.org/papers/v18/14-467.html
    https://www.jmlr.org/papers/volume15/wierstra14a/wierstra14a.pdf
• 拡散モデル
  • 今日岡野原さんの本を買いました。読んでいます。
    https://www.iwanami.co.jp/book/b619864.html
• LLM
  • そういえばアルトマンさんは戻ったらしいですね、よかったよかった
  • GPT-3の論文を読みたい
• 確率論
  • 確率微分方程式を何度も触っているけど、全くしっくりこないので勉強したい
  • 今日エクセンダールの本を買ったので読みたいです

卒業まで近いですが、月に2本くらいのペースでまとめていきたいです。