LLMをファインチューニングして「言い切るAI」を作った
終わらない戦争、温暖化する地球、広がる格差。
世の中には答えのない問題が山積みです。
そんな難問に対し、次から次へに答えを言い切る日本人がいることを、みなさんはご存知でしょうか。
吉本興業所属のお笑い芸人 ななまがりの初瀬さんです。まずは動画をご覧ください。
この動画を見たとき、私はあることを心に決めました。
今年のクソアプリはこれでいこう
この記事はクソアプリアドベントカレンダーシリーズ5、24日目の記事です
作ったもの
言い切るAI
節約のためサービス停止中です 公開アプリなので、誰でも言い切ってもらえます。お金がかかっているので期間限定です。
もちろん、ななまがり初瀬さんのピンネタ「言い切る男」のパロディAIです。許可をいただいているわけではないので、言い切る男とは異なる結論を導き出した場合は私に全責任がございます。

活用技術一覧

-
アプリケーション
gradioで作成し、Hugging Face Spacesにデプロイ -
モデル
日本語オープンウェイトモデル llm-jp-3.1-1.8b-instruct4 をベースに構築したファインチューニングモデル -
ファインチューニング
Unslothを用いた QLoRAベースの教師ありファインチューニング (SFT : Supervised Fine-Tuning) -
チューニング用データ
【Shortsまとめ】言い切る男の言い切り百連発 をGeminiでデータ化した後、ChatGPTで1000件に水増し -
チューニング環境
Colab(Proプラン) -
推論サーバ
Inference Endpoints(Hagging Faceサービスの一つ)にデプロイしAPI化 -
ビジュアル動画作成
NanoBanana + Veo3.1 -
諸々の相談相手や、アプリ開発環境
ChatGPT、Antigravity
技術選定のポイント
LLM-jp
LLM-jp は、日本語性能を最優先に設計されたオープンLLMです。
学習データや評価指標が日本語タスクに最適化されており、今回のタスクとの相性が良い点が決め手でした。商用利用や再配布の自由度が高く、個人開発でも安心して採用できます。
Unsloth
Unsloth は、少ないGPUリソースでも高速にファインチューニングできる点が最大の魅力です。
QLoRA前提の設計により、Colab環境でも現実的な学習が可能でした。
実装がシンプルで、サンプルコードもふんだんに用意されています。
Inference Endpoints
Inference Endpoints は、学習済みモデルを即座にAPI化できるマネージド推論基盤です。
スケーリングや認証を意識せずに本番運用へ移行できる点を評価しました。
モデル開発に集中でき、インフラ管理の負担を最小限に抑えられます。
Hugging Face Spaces
Hugging Face Spaces は、デモアプリを迅速に公開できるホスティング環境です。
GradioやStreamlitと自然に統合でき、プロトタイプ公開までが非常に短いです。
モデル・UI・デプロイを同一プラットフォームで完結できる点が採用理由です。
詰まったところ
ファインチューニング周りのライブラリバージョン不整合
今回ローカルでのファインチューニングは初めて行ったのですが、ライブラリのアップデートが激しく、ライブラリのバージョンエラーが多発しました。
最終的にはUnslothがたくさん公開してくれているサンプルNotebookの記述をパクって動きましたが、次回も同じような箇所でハマりそうです。
GPUを使う場合Inference Endpointsが高い
詰まったところではないですが、GPUの場合の最低価格が $0.5/hourなので、正直安くはないです。CPUでも動くようなモデルに置き換えるか稼働停止しないと、正月早々破産する未来が見えます。
感想
2025年はGPT-OSSをはじめとして、たくさんのオープンウェイトモデルが世の中に公開された年になりました。ローカルLLMのファインチューニングやアプリ化を試してみたいと思いつつ、全然手をつけられていなかったので今回とても勉強になりました。中でも、Unslothのドキュメントやサンプルnotebookにはとても助けられました。
技術的にも、Inference EndpointsとHugging Face Spacesを採用することで、さくっと自前LLM(?)のAIアプリを作れてしまい、「すごい時代だな。ちょっと調べればできちゃうんだから、行動しないと死ぬなこりゃ」と実感した次第です。10年前からずっと思ってるけど。
本当は、Text-to-Speach技術を使って、言い切るAIに音声で言い切らせたかったのですが、そこまで行きませんでした。残念。
筆者
Discussion
コンセプトに爆笑しながら読ませていただきました。そして、その技術は参考になります。
ありがとうございます。
ありがとうございます!
そう言っていただけると本当に励みになります。
Xのポストの画像で「言い切るAIで真剣な質問してるのにエラーが返ってきてる」時点で、とんでもないレベルのギャグになってて、そこで笑いが止まらなくなって、こちらを見に行ってさらに燃料投下という、高度な技術で高度なエンタテインメントをやってたので驚愕しながら、読ませていただきました。とんでもない才能お持ちです。