合成関数の微分は、物理学でも深層学習でも多くの分野で登場する重要な公式です。

大学数学で頻繁に登場する内容ですが、忘れた人は復習して、思い出せるようにしておきましょう。

合成関数の微分の公式

まず定義を先に提示します。

\begin{equation}
\frac{dy}{dx} = \frac{dy}{du} \frac{du}{dx}  
\end{equation}

(1)の式はいろんな参考書で登場するので、公式自体は見たことがある人は多いとは思います。

しかし、意味のわからない記号でできている数式に思えるかもしれません。

合成関数の微分の練習問題

例えば、次の関数の微分を合成関数の微分を用いて導出していきましょう。

f(x) = \frac{1}{1+e^{-x}}

これは、有名なシグモイド関数と呼ばれる関数です。

これは、先ほどの定義に照らし合わせると次のように置き換えられますね。

\begin{split}
f(x) &= \frac{1}{u(x)} \\
u(x) &=  1 + e^{-x}
\end{split}

よって、合成関数の微分より微分$\frac{dy}{dx}$は次のようになります。

\begin{split}
\frac{dy}{dx} &= \frac{dy}{du}\frac{du}{dx} \\
&= - u(x)^{-2} - e^{-x} \\
&= \frac{e^{-x}}{(1+e^{^x})^2}
\end{split}

合成関数の微分のイメージとしては、ある$x$の関数$f(x)$を$x$で微分しようとした時に、数式に含まれているある部分を$u = g(x)$に置き換えたとしても、(1)のようにそれぞれの微分値を連続してかけてあげることで、その大元の関数の、微分値を求めることができるということです。