合成関数の微分は、物理学でも深層学習でも多くの分野で登場する重要な公式です。
大学数学で頻繁に登場する内容ですが、忘れた人は復習して、思い出せるようにしておきましょう。
合成関数の微分の公式
まず定義を先に提示します。
合成関数の微分の定義
2つの関数$y=f(u)$、$u = g(x)$が微分可能である時、合成関数の$x$の微分$\frac{dy}{dx}$は、次のように計算できる。
\begin{equation} \frac{dy}{dx} = \frac{dy}{du} \frac{du}{dx} \end{equation}
(1)の式はいろんな参考書で登場するので、公式自体は見たことがある人は多いとは思います。
しかし、意味のわからない記号でできている数式に思えるかもしれません。
合成関数の微分の練習問題
例えば、次の関数の微分を合成関数の微分を用いて導出していきましょう。
f(x) = \frac{1}{1+e^{-x}}
これは、有名なシグモイド関数と呼ばれる関数です。
これは、先ほどの定義に照らし合わせると次のように置き換えられますね。
\begin{split} f(x) &= \frac{1}{u(x)} \\ u(x) &= 1 + e^{-x} \end{split}
よって、合成関数の微分より微分$\frac{dy}{dx}$は次のようになります。
\begin{split} \frac{dy}{dx} &= \frac{dy}{du}\frac{du}{dx} \\ &= - u(x)^{-2} - e^{-x} \\ &= \frac{e^{-x}}{(1+e^{^x})^2} \end{split}
合成関数の微分のイメージとしては、ある$x$の関数$f(x)$を$x$で微分しようとした時に、数式に含まれているある部分を$u = g(x)$に置き換えたとしても、(1)のようにそれぞれの微分値を連続してかけてあげることで、その大元の関数の、微分値を求めることができるということです。