「2つの確率分布がどれだけ違うか」を数値で表したい——機械学習や統計の現場でこの...
KLダイバージェンスとは、2つの確率分布 $P$ と $Q$ の「ずれ」を1つの...
ニューラルネットワークで「この画像は猫か犬か鳥か」を分類するとき、モデルの良し悪...
手元のデータに直線を当てはめるか、2次曲線を当てはめるか、それとも10次の多項式...
深層学習や機械学習などの論文を読んでいると、多変量正規分布のKL情報量について、...
2つの確率変数がどの程度「関連し合っている」かを定量的に測りたい場面は、情報理論...
2つの確率分布がどれだけ「異なる」かを測定する方法は一つではありません。統計的仮...
機械学習で分類モデルを訓練するとき、ほぼ確実に登場する損失関数が交差エントロピー...
ベイズ推定では、事後分布 $p(\bm{z}|\bm{x})$ を求めることが中...
確率変数$X$における確率分布を$p(x)$とした時、その確率変数のエントロピー...