🔥

LLMをファインチューニングして「言い切るAI」を作った

に公開
2025/12/28
3件

終わらない戦争、温暖化する地球、広がる格差。

世の中には答えのない問題が山積みです。

そんな難問に対し、次から次へに答えを言い切る日本人がいることを、みなさんはご存知でしょうか。

吉本興業所属のお笑い芸人 ななまがりの初瀬さんです。まずは動画をご覧ください。
https://youtube.com/shorts/uu-Mhgo8zeg?si=WVYmjsH45YU8wS0Z

この動画を見たとき、私はあることを心に決めました。

今年のクソアプリはこれでいこう
この記事はクソアプリアドベントカレンダーシリーズ5、24日目の記事です

作ったもの

言い切るAI

節約のためサービス停止中です
https://huggingface.co/spaces/fujitako03/iikiru-ai-demo
公開アプリなので、誰でも言い切ってもらえます。お金がかかっているので期間限定です。

もちろん、ななまがり初瀬さんのピンネタ「言い切る男」のパロディAIです。許可をいただいているわけではないので、言い切る男とは異なる結論を導き出した場合は私に全責任がございます。
言い切るAIの画面

活用技術一覧

  • アプリケーション
    gradioで作成し、Hugging Face Spacesにデプロイ
  • モデル
    日本語オープンウェイトモデル llm-jp-3.1-1.8b-instruct4 をベースに構築したファインチューニングモデル
  • ファインチューニング
    Unslothを用いた QLoRAベースの教師ありファインチューニング (SFT : Supervised Fine-Tuning)
  • チューニング用データ
    【Shortsまとめ】言い切る男の言い切り百連発 をGeminiでデータ化した後、ChatGPTで1000件に水増し
  • チューニング環境
    Colab(Proプラン)
  • 推論サーバ
    Inference Endpoints(Hagging Faceサービスの一つ)にデプロイしAPI化
  • ビジュアル動画作成
    NanoBanana + Veo3.1
  • 諸々の相談相手や、アプリ開発環境
    ChatGPT、Antigravity

技術選定のポイント

LLM-jp

LLM-jp は、日本語性能を最優先に設計されたオープンLLMです。
学習データや評価指標が日本語タスクに最適化されており、今回のタスクとの相性が良い点が決め手でした。商用利用や再配布の自由度が高く、個人開発でも安心して採用できます。

Unsloth

Unsloth は、少ないGPUリソースでも高速にファインチューニングできる点が最大の魅力です。
QLoRA前提の設計により、Colab環境でも現実的な学習が可能でした。
実装がシンプルで、サンプルコードもふんだんに用意されています。

Inference Endpoints

Inference Endpoints は、学習済みモデルを即座にAPI化できるマネージド推論基盤です。
スケーリングや認証を意識せずに本番運用へ移行できる点を評価しました。
モデル開発に集中でき、インフラ管理の負担を最小限に抑えられます。

Hugging Face Spaces

Hugging Face Spaces は、デモアプリを迅速に公開できるホスティング環境です。
GradioやStreamlitと自然に統合でき、プロトタイプ公開までが非常に短いです。
モデル・UI・デプロイを同一プラットフォームで完結できる点が採用理由です。

詰まったところ

ファインチューニング周りのライブラリバージョン不整合

今回ローカルでのファインチューニングは初めて行ったのですが、ライブラリのアップデートが激しく、ライブラリのバージョンエラーが多発しました。

最終的にはUnslothがたくさん公開してくれているサンプルNotebookの記述をパクって動きましたが、次回も同じような箇所でハマりそうです。

GPUを使う場合Inference Endpointsが高い

詰まったところではないですが、GPUの場合の最低価格が $0.5/hourなので、正直安くはないです。CPUでも動くようなモデルに置き換えるか稼働停止しないと、正月早々破産する未来が見えます。

感想

2025年はGPT-OSSをはじめとして、たくさんのオープンウェイトモデルが世の中に公開された年になりました。ローカルLLMのファインチューニングやアプリ化を試してみたいと思いつつ、全然手をつけられていなかったので今回とても勉強になりました。中でも、Unslothのドキュメントやサンプルnotebookにはとても助けられました。

技術的にも、Inference EndpointsとHugging Face Spacesを採用することで、さくっと自前LLM(?)のAIアプリを作れてしまい、「すごい時代だな。ちょっと調べればできちゃうんだから、行動しないと死ぬなこりゃ」と実感した次第です。10年前からずっと思ってるけど。

本当は、Text-to-Speach技術を使って、言い切るAIに音声で言い切らせたかったのですが、そこまで行きませんでした。残念。

筆者
https://x.com/fujitako03

Discussion

duckengine_1duckengine_1

コンセプトに爆笑しながら読ませていただきました。そして、その技術は参考になります。
ありがとうございます。

1
Kosuke FujitaKosuke Fujita

ありがとうございます!
そう言っていただけると本当に励みになります。

duckengine_1duckengine_1

Xのポストの画像で「言い切るAIで真剣な質問してるのにエラーが返ってきてる」時点で、とんでもないレベルのギャグになってて、そこで笑いが止まらなくなって、こちらを見に行ってさらに燃料投下という、高度な技術で高度なエンタテインメントをやってたので驚愕しながら、読ませていただきました。とんでもない才能お持ちです。