PRMLの第9章に、EMアルゴリズムの適応対象として、混合ベルヌーイ分布(Bernoulli Mixture Models)を紹介しています。混合ベルヌーイ分布は、EMアルゴリズムを勉強する際に非常に有用な応用事例なので […]
機械学習の分野を勉強していると、一度は目にすることがあるディリクレ分布 (Dirichlet distribution) カテゴリカル分布や多項分布のパラメータを表現する共役事前分布になる性質もあり、ベイズ推定の分野でも […]
ベイズ推定の枠組みの中で度々登場する、周辺尤度(marginal likelihood)という概念ですが、実際には統計力学や情報理論の中でも登場する概念です。 ベイズ推定の勉強の初期の項では、周辺尤度は、定数扱いになるこ […]
｜カテゴリー：ベイズ統計
今回はMAP(maximum a posteriori)推定について解説していきます。 また、MAP推定と最尤推定(maximum likelihood estimation, MLE)の違いや、実際にデータ分析や実務を […]
単位時間の間に発生する事象の平均回数を$\lambda$とした時、ポアソン分布を用いることで、一定期間内に事象が起こる回数を確率的に表現することができます。 今回はこのポアソン分布に対してベイズ推定のアプローチから、一定 […]
今回は、機械学習で非常によく用いられているベイズ手法による学習と予測の理論的背景を理解するために、前提知識とベイズ推論にための学習と予測の方法について一から百までまとめます。 今回を記事を執筆するあたっての参考書は、「ベ […]
ガンマ分布(Gamma distribution)は、正の実数 $\lambda \in \mathcal{R}$を確率変数の範囲にもつ、連続確率分布です。 よくベータ分布(Beta distribution)と混同され […]
確率や条件付き確率(conditional probability)を勉強していて度々登場する、確率、あるいは条件付き確率の連鎖律について説明します。条件付き確率は、下記のような定義となっています。 条件付き確率の定義式 […]