🚀

【AWS-ML】ブラックボックスを開く：SHAP値とLIMEで理解する機械学習の解釈可能性

に公開
AWS
機械学習
idea

この記事で得られること

  • ✨ LIMEの目的と仕組みを、住宅ローン審査の例を通して理解できます。
  • 💡 SHAPのゲーム理論的な考え方と、特徴量への貢献度の割り当て方がわかります。
  • ⚖️ LIMEとSHAPの違い・使い分けをAWS認定試験や実務で活かすポイントとして整理します。
  • 🎯 SHAPサマリープロットの読み方を図解で押さえ、可視化の解釈力を鍛えます。

背景：なぜ説明可能AI（XAI）が必要なのか

ChatGPTは「機械学習モデル、とくにランダムフォレストやニューラルネットのような複雑なモデルは“ブラックボックス”と呼ばれる」と説明しました。
モデルが「この人は融資できる」「この顧客は解約しそう」と判断した理由がそのままでは見えないからです。
その不透明さをほぐすために登場するのが、モデル非依存なローカル説明を与える LIME と、ゲーム理論に基づく公平な貢献度割り当てを行う SHAP です。

LIME（Local Interpretable Model-agnostic Explanations）

何をする手法か

  • ✨ 個別予測（ローカル）を説明 するモデル非依存のアプローチ。
  • 元のモデルの周辺に似たデータを生成し、その予測結果の変化を観察。
  • 変化の傾向を線形回帰などのシンプルなモデルで近似し、特徴量の影響度を算出。

住宅ローン審査モデルの例（ChatGPT回答より）

ある人の予測結果が「融資OK（確率 0.8）」だったとします。
LIMEを使うと、
・年収が +0.25 の影響
・借入金額が −0.15 の影響
・勤続年数が +0.10 の影響
…という形で「何が結果を押し上げ／押し下げたか」を可視化できます。

AWS学習の観点

  • 局所的に「この判断の理由は？」と問われたときに答えられる。
  • サンドボックス的な検証や軽量な実験と相性が良く、プロトタイプ段階で有効。

SHAP（SHapley Additive exPlanations）

何をする手法か

  • 💡 特徴量を「プレイヤー」、予測結果を「得点」とみなす**ゲーム理論（シャープレイ値）**に基づく。
  • すべての特徴量が協力して得たスコアを、貢献度に応じて公平に配分。
  • モデルの種類に依存せず利用でき、グローバルな説明力を提供。

住宅ローン審査モデルの例（ChatGPT回答より）

同じ「融資OK（確率 0.8）」という予測に対して、
・年収が +0.30
・借入金額が −0.20
・勤続年数が +0.10
・年齢が −0.05
といった具合に、各特徴へ公平な貢献度（SHAP値）を割り当てます。

AWS学習の観点

  • 監査対応やレポート用途など、高い説明責任が求められる場面で重宝。
  • AutoMLやマネージドサービスでも採用例が多く、用語が出ても慌てないようにしたい。

LIMEとSHAPの違い・使い分け

  • ⏱️ スピード：LIMEは試行回数を絞れば即座に使える。SHAPはサンプリングや組み合わせ計算でコストがかかりがち。
  • 🎯 対象：LIMEは個別ケースの深掘り、SHAPは全体傾向の俯瞰に強み。
  • 📊 信頼性：SHAPは理論的な公平性が担保されるため、意思決定会議や対外説明にも向く。
  • 🧪 使いどころ：PoCやプロトタイプ→LIME、運用段階や監査→SHAP、と段階に応じた併用が理想的。
title="ChatGPTとのやりとりメモ（要約）"
  • ブラックボックス性への問題意識を共有し、LIMEとSHAPを紹介。
  • LIMEの仕組みを「周辺データを生成し簡単なモデルで近似」と説明。
  • SHAPは「チームプレイヤーへの得点配分」の例えで納得感を高める。
  • さらにSHAPサマリープロットの読み方（色＝特徴量の値、位置＝影響方向）まで掘り下げ。

SHAPサマリープロットの読み方（図解）

SHAPサマリープロットの読み方

ChatGPTは、SHAP Summary Plot を以下のように解説してくれました。

  • 🟣 横軸（SHAP値）：右側が予測を押し上げ、左側が押し下げる方向。
  • 🔵🔴 色（特徴量の値）：青＝値が低いサンプル、赤＝値が高いサンプル。
  • ⚪ 各点：1つのデータサンプル。縦のばらつきは複数サンプルが同じ特徴で重なっているイメージ。
  • 💡 読み解きの例：「年収」で赤い点が右側に多ければ、高年収が融資OKを後押ししている、と解釈できる。

さいごに：AWS試験に向けた着眼点

  • LIME/SHAPはいずれもモデル非依存（model-agnostic）の説明方法。サービス問わず使える概念として覚える。
  • AWSではAmazon SageMaker ClarifyなどのXAI機能がある。用語やプロットのパターンに慣れておくと試験問題で迷いにくい。
  • 実務でも顧客や上司に説明するトレーニングとして、ChatGPTとの対話をベースに説明文をまとめるのは有効。

Discussion