分類モデルの基礎
はじめに
これまでの記事では、機械学習モデルの全体像を整理し、第2回では数値予測を対象とした回帰モデルを解説しました。今回は分類モデルを取り上げます。
分類は、データをあらかじめ定義された離散的なクラスに振り分けるタスクです。メールを"スパム"か"非スパム"に分類する、医療画像を"疾患あり"か"疾患なし"に分類する、顧客を"解約リスク高"か"解約リスク低"に分類するなど、応用範囲は広範です。
本記事では、分類モデルの学術的背景、代表的な手法、評価指標、実務上の考慮点について解説します。
1. 分類とは何か
分類は、入力データ（特徴量）を用いて、そのデータが属するクラス（ラベル）を予測するタスクです。クラスは有限で離散的であり、二値分類と多クラス分類に大別されます。
二値分類: 例）スパムメール判定（スパム or 非スパム）、疾病判定（陽性 or 陰性）
多クラス分類: 例）画像識別（猫・犬・鳥など）、ニュース記事分類（政治・経済・スポーツなど）
また、1つのサンプルが複数のクラスに属するマルチラベル分類も存在します。例：音楽ジャンルを複数同時に割り当てるタスク。
2. 代表的な分類モデル
(1) k近傍法（k-NN）
入力データに最も近い訓練データのクラスを参照して分類します。シンプルながら直感的に理解できるモデルです。
利点: 理論的背景がシンプル、実装容易
欠点: データが多いと計算コストが高い
(2) サポートベクターマシン（SVM）
クラス間の境界（マージン）を最大化するように分類する手法です。カーネル関数を利用することで非線形分類にも対応できます。
利点: 少量データでも高精度、理論的に強固
欠点: データ量が大きいと計算コストが高くなる
(3) 決定木・ランダムフォレスト
特徴量を順に分岐させることで分類を行います。ランダムフォレストは多数の決定木を組み合わせ、安定性と精度を高めます。
利点: 解釈性が高い、特徴量の重要度を評価可能
欠点: 単一の木は過学習しやすい
(4) 勾配ブースティング系（XGBoost, LightGBM, CatBoost）
多数の弱学習器（浅い決定木）を組み合わせて誤差を修正していくアンサンブル学習です。分類タスクでもトップクラスの性能を発揮し、実務や競技で頻繁に利用されます。
(5) ニューラルネットワーク
深層学習を用いた分類モデルは、画像認識や自然言語処理で圧倒的な成果を出しています。CNNやTransformerなどのアーキテクチャが代表例です。
3. 分類モデルの評価指標
分類では正しく当てられたかどうかを多角的に評価する必要があります。
正解率（Accuracy）: 全体のうち正しく分類できた割合
適合率（Precision）: 陽性と判定したうち、実際に正しかった割合
再現率（Recall）: 実際に陽性のものをどれだけ正しく検出できたか
F1スコア: PrecisionとRecallの調和平均
ROC曲線・AUC: モデルの識別能力を可視化・定量化する指標
特に不均衡データ（例えば不正取引が全体の0.1%しかないケース）では、Accuracyだけでは不十分で、PrecisionやRecallのバランスを見ることも必要です。
4. 実務での考慮点
データの偏り
クラス分布が偏っていると、モデルが多数派を選べば正解率が高いと判断してしまいます。データのリサンプリングや重み付けが必要となります。
特徴量設計
単純な特徴量だけでは十分にクラスを分けられないことが多いです。例えばテキスト分類ではBag-of-WordsやTF-IDF、Word2Vecなどの表現が重要です。
モデル選択
精度が高くても解釈できないと業務に使えないケースもあります。
不均衡データへの対応
例えば異常検知や医療診断では少数派クラスを正しく見つけることが最重要です。オーバーサンプリング（SMOTE）やクラス重み付けを利用する方法が有用なケースが多いです。
5. 分類モデルの応用事例
スパムメール判定
電子メールの受信箱に届くメッセージを「スパム」か「非スパム」に分類するタスクです。特徴量として、件名の単語や本文の単語頻度、送信元ドメイン、リンクの有無などを用います。実務では精度だけでなく、誤判定による重要メールの取りこぼしを最小化することが重要です。また、スパムの手法は常に変化するため、モデルの定期更新が必要です。
疾病診断（画像・バイオマーカー）
医療分野では、X線やMRI画像、血液検査データなどを用いて、疾患の有無を判定します。例えば、がん検出では画像の異常パターンを学習させ、腫瘍の有無や種類を分類します。バイオマーカーでは、複数の指標を組み合わせて疾病リスクを評価することもあります。ここでは、誤診リスクを最小化するため、分類閾値やクラス重みの調整が重要です。
顧客解約予測
通信・サブスクリプションサービスでは、顧客の利用状況やログイン頻度、問い合わせ履歴などを基に、解約するか否かを予測します。分類モデルを用いることで、解約リスクの高い顧客を特定し、プロモーションや特典の提供など、事前対応策を講じることが可能です。実務では、データの偏り（解約は少数派）があるため、評価指標やサンプリング戦略に注意が必要です。
不正検出（金融取引・セキュリティログ）
金融取引やシステムログにおける不正行為の検出にも分類モデルが使われます。特徴量として取引額、時間帯、IPアドレス、過去の行動パターンなどを用います。大多数のデータは正常で、不正が非常に少ないため、モデル設計には不均衡データへの対応が欠かせません。また、検出精度の向上だけでなく、誤検知による業務影響を抑える工夫も重要です。
音声・画像認識
分類モデルは、音声認識や画像認識にも広く使われています。音声データでは、発話内容をテキストや感情カテゴリに分類するタスクがあります。画像データでは、人物・物体・シーンなどをラベルごとに分類します。深層学習モデル（CNNやTransformer）を用いることで、特徴抽出やパターン認識を自動化し、高精度な分類が可能です。産業応用としては、防犯カメラの異常検知、製造ラインでの欠陥検出、自動運転車の物体識別などがあります。
分類は、機械学習が「現場の意思決定」に最も直接的に結びつく領域のひとつです。
まとめ
本記事では、分類モデルについて以下の点を整理しました。
分類は離散的なクラスにデータを振り分けるタスク
代表的なモデルはロジスティック回帰、SVM、決定木、アンサンブル学習、ニューラルネットワークなど
評価はAccuracyだけでなくPrecision・Recall・F1・AUCなど多面的に行う必要がある
実務ではデータの偏りや特徴量設計、不均衡データへの対応が鍵
次回は教師なし学習モデルに焦点を当て、探索的データ分析やパターン発見のアプローチについて記事をまとめます。
参考文献
Bishop, C. M. (2006). Pattern Recognition and Machine Learning. Springer.
URL: https://www.microsoft.com/en-us/research/publication/pattern-recognition-machine-learning/
Cortes, C., & Vapnik, V. (1995). Support-vector networks. Machine Learning, 20, 273–297.
URL: https://link.springer.com/article/10.1007/BF00994018
Breiman, L. (2001). Random forests. Machine Learning, 45(1), 5–32.
URL: https://link.springer.com/article/10.1023/A:1010933404324
Quinlan, J. R. (1986). Induction of decision trees. Machine Learning, 1, 81–106.
URL: https://link.springer.com/article/10.1007/BF00116251
LeCun, Y., Bengio, Y., & Hinton, G. (2015). Deep learning. Nature, 521(7553), 436–444.
URL: https://www.nature.com/articles/nature14539
Discussion