Open2

深層学習に関して

事前学習手法まとめ

Masked Language Model

Permutation Language Model

Replaced Token Detection

活性化関数

シグモイド関数

1次元特徴量の変換に用いられる。式は以下

\mathrm{sigmoid}(x) = \frac{1}{1 + \exp{(-x)}}

値域は(0,1)になり2値分類問題の出力層の活性化関数としてよく使われる。入力が正なら1よりの値、負なら2よりの値

ログインするとコメントできます