本業はAndroid/iOSアプリの開発をしています。最近、日本語LLMを作るためのオープンソースプロジェクトを始めました。事前学習、Fine-tuning、RLHFのプロセスを経て、最終的にはChatGPTのような国産の対話システムを作成したいと考えています。現段階では、GPT-2の模倣からスタートしています。
