合成関数の微分は、物理学でも深層学習でも多くの分野で登場する重要な公式です。 大学数学で頻繁に登場する内容ですが、忘れた人は復習して、思い出せるようにしておきましょう。 合成関数の微分の公式 まず定義を先に提示します。 […]
確率変数$X$を線形変換するとは次のような操作を指します。 例えば、恣意的な設定ですが、くじ引きを引いた時、出た目の数$x$に対して賞金が$y = 100 x + 2000$円もらえるようなくじがあるとします。この時、出 […]
機械学習の理論や論文を勉強していると、時々テイラー展開 (Taylor Expansion)やマクローリン展開(Maclaurin Expansion)に遭遇します。 正直テイラー展開なんて知らないよ … と […]
イェンゼンの不等式について学んでいきます。イェンゼンの不等式は、凸関数において成り立つ不等式です。 なかなか抽象的な面もありますが、一般系な凸関数において成り立つので、汎用性が高く、機械学習や統計学の勉強をすると度々登場 […]
ガンマ関数は、統計学や機械学習の基本的な関数で、その登場回数は非常に多いです。 一方、ガンマ関数自体は、ベイズ推定などのあくまでも正規化項の一部として扱われることが多く、その関数系や定義については意外と理解されていないと […]