複数の入力を持つ、複数の多変数関数の微分を考える際に、ヤコビ行列が登場します。
数理統計における、確率変数の変数変換やニューラルネットワークにおける誤差逆伝播の計算にも登場する、機械学習や深層学習の中では非常に重要な計算の1つです。
今回はヤコビ行列について、わかりやすく解説していきます。
ヤコビ行列の定義
まず最初にヤコビ行列の定義から入っていきます。
ヤコビ行列の定義
今、$m$個の多変数関数$\{f_{1}, f_2, \cdots, f_m \}$ があるとします。ここで、多変数関数の入力となる$n$個の変数$\{x_{1}, x_2, \cdots, x_n \}$がある時 、ヤコビ行列$J_f$は次のように定義されます。
\begin{equation} J_f = \begin{pmatrix} \frac{\partial{f_1}}{\partial x_1} & \cdots & \frac{\partial{f_1}}{\partial x_n} \\ \vdots & \ddots & \vdots \\ \frac{\partial{f_m}}{\partial x_1} & \cdots & \frac{\partial{f_m}}{\partial x_n} \end{pmatrix} \end{equation}