機械学習のパラメータ推定で頻繁に登場する、ベルヌーイ分布(Bernoulli distribution)です。 よくコイン投げの思考に例えられるこの分布ですが、基本的な確率分布としてよく機械学習や統計学のテキストで登場し […]
PRMLの第9章に、EMアルゴリズムの適応対象として、混合ベルヌーイ分布(Bernoulli Mixture Models)を紹介しています。混合ベルヌーイ分布は、EMアルゴリズムを勉強する際に非常に有用な応用事例なので […]
カテゴリカル分布は、ベルヌーイ分布を3次元以上に拡張した分布で、例えるなら、出る目が均等ではない歪んだサイコロを1回投げた時に、どの目が出るか？を表現することができる確立分布です。 ベルヌーイ分布がコインの表と裏のような […]
今回は、機械学習で非常によく用いられているベイズ手法による学習と予測の理論的背景を理解するために、前提知識とベイズ推論にための学習と予測の方法について一から百までまとめます。 今回を記事を執筆するあたっての参考書は、「ベ […]
ベルヌーイ分布(Bernoulli distribution)は0か1かの2値をとる確率分布です。 具体的な問題設定では、「コインを1回投げた際に、表が出るか？裏が出るか？」や、「1人にアンケートを行った際の回答が、猫が […]