🍣

Deep Learning資格試験 機械学習 評価関数

2022/01/26に公開

はじめに

日本ディープラーニング協会の Deep Learning 資格試験(E 資格)の受験に向けて、調べた内容をまとめていきます。

混同行列

陽性 陰性
予測結果が陽性 真陽性
True Positive
正しく positive と判別した個数
偽陰性
False Positive
間違えて positive と判別した個数
予測結果が陰性 偽陽性
False Negative
間違えて Negative と判別した個数
真陰性
True Negative
正しく Negative と判別した個数

正解率(accuracy)

  • 分類問題で使用する
  • 全てのデータのうち、正しく予測できた割合
  • 0~1の範囲であり、1に近づくほど性能がよい
Accuracy = \frac{TP+TN}{TP+TN+FN+FP}

適合率(precision)

  • 分類問題で使用する
  • 陽性と予測したもののうち、実際に陽性であるものの割合
  • 0~1の範囲であり、1に近づくほど性能がよい
Precision = \frac{TP}{TP+FP}

再現率(recall)

  • 分類問題で使用する
  • 実際に陽性であるもののうち、正しく陽性と予測できたものの割合
  • 全て陽性と予測すると1になるため、単独では用いず適合率と合わせて評価する
  • 0~1の範囲であり、1に近づくほど性能がよい
Recall = \frac{TP}{TP+FN}

F値(F-measure)

  • Recall と Precision の調和平均
  • この値が大きいほど RecallPrecision の両方が良い事を示す。
  • 別名 Dice 係数と呼ばれる。
\begin{aligned} F\textrm-measure &= \frac{2 \cdot Recall \cdot Precision}{Recall+Precision} \\[10px] &= \frac{TP}{TP+\frac{1}{2}(FP+FN)} \end{aligned}

特異度(specificity)

  • 実際に陰性であるもののうち、正しく陰性と予測できたものの割合
  • 再現率の正負を反転させた指標
Specificity = \frac{TN}{TN+FP}

偽陽性率 (False Positive Rate、FPR)

  • 実際には陰性であるもののうち、誤って陽性と予測したものの割合
  • 偽陽性率は「1 ー (特異度)」で求めることもできる。
FPR = \frac{FP}{TN+FP}

ROC 曲線

  • 横軸を Falsepositive rete(FPR)、縦軸を True positive rate(TPR)としたグラフを描く。
  • ROC 曲線において、良いモデルとされるのは FPR が小さいとき、TPR が大きいモデルである。
  • ROC 曲線の右下に囲まれた面積で求めることができ、AUCとよぶ。
  • AUCは、0から1の値をとり、1に近いほど判別性能が高い事を示す。

平均絶対誤差(Mean Absolute Error 、MAE)

  • 回帰で使用する。
MAE = \frac{1}{n} \sum_{i=1}^n |f_i-y_i|

平均二乗誤差(Mean Squared Error 、MSE)

  • 回帰で使用する。
MSE = \frac{1}{n} \sum_{i=1}^n (f_i-y_i)^2

平均二乗誤差平方根(Root Mean Squared Error 、RMSE)

  • 回帰で使用する。
RMSE = \sqrt{\frac{1}{n} \sum_{i=1}^n (f_i-y_i)^2}

物体認識、物体検出で使用される評価指標

IoU

  • ボックスの重なりを評価するための指標
\begin{aligned} IoU &= \frac{TP}{TP+FP+FN} \\[12px] &= \frac{Area \hspace{2mm} of \hspace{2mm} Overlap}{Area \hspace{2mm} of \hspace{2mm} Union} \end{aligned}

AP

  • 予測した各ボックスについて True と False を判定でき、通常のニューラルネットワークと同様に各クラスについて適合率や再現率を計算することができる。
\begin{aligned} AP = \int_0^1 P(R)dR \end{aligned}

mAP

  • AP は各クラスに対して計算できる。
  • モデル全てのクラスに対して AP を算出し、平均を取った値
\begin{aligned} mAP = \frac{1}{C} \sum_{i=1}^C AP_i \end{aligned}

Discussion