シグモイド関数は何故あの形なのか？

以下の形の関数をシグモイド関数と呼びます。

このシグモイド関数は何故こんな形をしているのでしょうか？

数式から考えてみましょう。
シグモイド関数は
$y = \dfrac{1}{1+e^{-x}}$
という式で表されます。

一見難しく見えますが、1つずつ紐解いていきます。

${e^{-x}}$

まずは${e^{-x}}$です。
これは${e^{-x}}=\dfrac{1}{e^{x}}$と変形でき、グラフは以下のようになります。

$\dfrac{1}{e^{x}}$なので、xが大きくなるとその値は0に収束し、xが負の値になると
$\dfrac{1}{e^{-x}}$ = ${e^{x}}$
なのでxが負の方向に大きくなるとその値は指数的に増加します。

$\dfrac{1}{e^{-x}}$

次に$\dfrac{1}{e^{-x}}$を考えます。これは先ほどと真逆のことが起きます。
つまり
・xが正の時、その値は$\dfrac{1}{e^{-x}}={e^{x}}$ →指数的に増加
・xが負の時、その値は$\dfrac{1}{e^{x}}$　→指数的に減少(0に収束)

よって以下のようになります。

$\dfrac{1}{1+e^{-x}}$

そして最後にシグモイド関数$\dfrac{1}{1+e^{-x}}$です。
先ほどと同じように、xが正の時と負の時に分けて考えてみましょう。

・xが正の時、その値は$\dfrac{1}{1+e^{-x}}$　→${e^{-x}}$が0に近づく →1に収束
・xが負の時、その値は$\dfrac{1}{1+e^{x}}$　→${e^{x}}$が∞に近づく →0に収束

従って以下のようになります。

ここで、それぞれの値に収束する速度は、${e^{-x}}$のグラフと連動します。
上記${e^{-x}}$の青いグラフを見るとわかるように、x軸の値が3の時、y軸がほぼ0に収束しています。
これはシグモイド関数でも同じで、x軸が3の時にシグモイド関数は1に収束します。

つまり${e^{-x}}$のグラフが0に収束するタイミングで、シグモイド関数も一定値に収束します。
ここで、例えば$\dfrac{1}{1+e^{-2x}}$とすると、$e^{-2x}$は$e^{-x}$に比べて早く収束するので、シグモイド関数の収束も早くなります(つまり傾きが急になります)。

$\dfrac{1}{1+e^{-2x}}$

x=2のあたりでシグモイドが関数が1に収束していることが分かると思います。

まとめ

sigmoid関数は、${e^{-x}}$の収束のタイミングで0や1に収束します。
そのため、xの係数を変更することで、シグモイド関数の収束速度を変化させることが可能です。
※xの係数が大きいほど早く収束します。

今回は式からシグモイド関数の形について考えてみました。
最後まで読んでいただきありがとうございました！