はじめに

「ゼロからLLMつくりたいなー」と思っていますが、なかなか時間がとれないので、いざというとき（？）のために、参考になりそうなサイトをまとめておきます。

個人的な備忘録です。まだ全然作れていないので、どれが良いという評価もできません。

NLP2024チュートリアル

良さそう。

Andrej Karpathyさんの動画。英語ですが、すごい良さそう

実装例は画像認識ではありますが、フレームワークをつくるためのコーディングという点で参考になると思います。
ゼロから作るDeep Learning ❸ ―フレームワーク編

https://github.com/llm-jp/llm-jp-sft

LLMに限らず、何かをゼロから小さく作ってみるのは、回り道のようで理解を深める最短経路と思っています。すぐ効果があるようなものではないですが、こういうのはまとめて取り組んでいきたいですね。

日本語の良い書籍が出ないかなーと期待もしています。