🦙

LLMと従来MLの住み分け判断フレーム

に公開
機械学習
機械学習
llm
idea

はじめに

LLMが当たり前になってきた今、現場で一番困るのはここです。

  • これ、LLMでやるべき？
  • それとも従来MLの方が正しい？
  • あるいは両方？

結論から言うと、LLMと従来MLは競合ではなく補完です。
ただし、住み分けを曖昧にすると

  • コストが爆発する
  • 精度が安定しない
  • 運用がつらい

になりやすいので、判断の軸を先に固定しておくと有利です。

この記事では、用途、要件、リスク、コスト、運用の観点から実務で使える住み分けフレームをまとめます。

まず一言で整理

領域 得意なこと
LLM 言語理解、曖昧さの吸収、ゼロショット適応、複雑な知識統合、自然文生成
従来ML 数値・構造化データの予測、高速推論、安定した再現性、厳格な評価と最適化

判断フレームの全体像

次の順番で判断すると迷いません。

  1. 入出力は何か
  2. 正解の定義は明確か
  3. 誤答のコストはどれくらいか
  4. データ量とラベル品質はどうか
  5. レイテンシとコスト制約はどうか
  6. 運用の観点で更新頻度と説明責任はどうか

1. 入出力の型で8割決まる

LLM優勢

  • 入力が自然文、出力も自然文
  • 文脈が長い
  • 例外や揺れが多い

例: 問い合わせ対応、仕様書や議事録の要約、自然文の分類やタグ付けを素早く立ち上げたい場合

従来ML優勢

  • 入力が構造化データ
  • 出力が数値やカテゴリ
  • 特徴量が作れる

例: 需要予測、不正検知、レコメンドのランキング、スコアリング

2. 正解が明確なら従来MLが強い

以下の条件が揃うほど従来MLは強く、安く、速くなります。

  • 「正解ラベル」が定義できる
  • 「評価指標」が決めやすい
  • 「改善が連続的に行える」

逆に、正解仕様が曖昧で人間でも判断が割れるなら、LLMの柔軟性が活きます。

3. 誤答コストで安全側に倒す

誤答が危険な領域は、LLM単体運用を避けるのが基本です。

  • 法務、医療、金融の意思決定
  • 認可、支払い、契約、セキュリティ関連

この手の領域は以下のように役割分担する方が事故りにくいです。

役割 担当
スコアや判定 従来ML
説明文や要約、根拠整理 LLM

4. データとラベルの状況で判断

ざっくり現場の感覚だと以下のようになります。

状況 推奨
高品質ラベルが大量にある 従来MLが有利
ラベルが少ない、更新が頻繁 LLMが有利
ラベルはあるが説明が必要 ハイブリッド

5. レイテンシとコストの壁

以下の条件が強いなら従来ML寄りになります。

  • 低レイテンシが必須（例: リアルタイム広告、決済系）
  • 1件あたりの推論コスト上限が厳しい

LLMは便利ですが、高頻度トラフィックにそのまま載せると費用が跳ねがちです。

6. 運用と説明責任

従来MLが有利な場面

  • モデルの挙動を統計的に安定させたい
  • バージョン間の差分を明確に管理したい
  • 監査や説明責任が強い

LLMが有利な場面

  • 知識更新や仕様変更が多い
  • データ準備より先に価値検証したい
  • 文章中心の業務を素早く自動化したい

住み分け判断マトリクス

LLMを第一候補にする条件

  • 入出力が自然文中心
  • 正解が曖昧、例外が多い
  • ラベルが足りない
  • まずPoCで速く価値検証したい
  • 仕様変更が頻繁で学習運用が重い

従来MLを第一候補にする条件

  • 入出力が構造化、数値中心
  • 正解が明確
  • 高品質ラベルがある
  • 低コスト、低レイテンシが必須
  • 厳格な評価と継続改善が必要

ハイブリッドが有利なパターン

1. LLMで特徴量生成して従来MLへ

  • テキストから要約、カテゴリ、エンティティを抽出
  • それを特徴量としてGBDTやNNに渡す

メリット: 学習データを増やしやすい、本番推論のコストを抑えやすい

2. 従来MLで判定、LLMで説明

  • リスクスコアや異常検知は従来ML
  • 人間向けの理由説明はLLM

メリット: 監査や社内説明が通りやすくなる

3. LLMで候補生成、従来MLで最終ランク付け

検索やレコメンドの鉄板構成です。

実務用の最小意思決定フロー

よくある失敗

失敗パターン 問題
全部LLMに寄せてコスト爆増 高頻度処理でAPIコストが想定の10倍以上に
重要判定までLLMに任せて事故 ハルシネーションで誤った意思決定
LLMの評価設計がなく改善が雰囲気 精度向上の根拠が示せない
RAGのメタデータや正本整理を飛ばす 古い情報が混ざり精度が不安定

まとめ

LLMと従来MLの住み分けは、感覚ではなく要件で決まると考えています。

  • 言語と曖昧さの世界 → LLM
  • 数値と厳密さの世界 → 従来ML
  • 高リスク領域 → ハイブリッドが最適解になりやすい

Discussion