確率変数$X$を線形変換するとは次のような操作を指します。 例えば、恣意的な設定ですが、くじ引きを引いた時、出た目の数$x$に対して賞金が$y = 100 x + 2000$円もらえるようなくじがあるとします。この時、出 […]
確率分布の中で、最も基本的な確率分布が一様分布です。よくベイズ統計学において、事前に何も情報がないような場合の無情報事前分布としても利用されることのある、この一様分布ですが、今回は、一様分布の定義や期待値・分散等の基本的 […]
機械学習の分野を勉強していると、一度は目にすることがあるディリクレ分布 (Dirichlet distribution) カテゴリカル分布や多項分布のパラメータを表現する共役事前分布になる性質もあり、ベイズ推定の分野でも […]
条件付き期待値(conditional expectation)は、機械学習や統計の勉強をしているとしばしば訪れますが、なかなか理解するのに苦労する概念だと思います。 私自身も機械学習の勉強をしていて、有名なPRMLで条 […]
ポアソン分布(poisson distribution)は、時間的にランダムに発生するような事象を記述するような確率分布です。 単位時間に何回イベントが発生するかを記述できる確率分布なので、例えばよくポアソン分布を用いて […]
機械学習を勉強する上で、二項分布を学ぶことは非常に重要です。 二項分布はよくコイン投げを複数回行った時に、表が何回出る確率を表現するような確率分布です。 ベイズ推定などを勉強している人は、二項分布とその共役事前分布である […]
ベルヌーイ分布(Bernoulli distribution)は0か1かの2値をとる確率分布です。 具体的な問題設定では、「コインを1回投げた際に、表が出るか？裏が出るか？」や、「1人にアンケートを行った際の回答が、猫が […]
確率変数の期待値には、基本的な性質がいくつかあります。 まず確率変数について軽くおさらいした後で、確率変数の期待値について成り立つ性質を見ていきましょう。 期待値の言葉の定義 期待値はざっくりいうと、確率分布の性質を表す […]
確率変数の期待値は、機械学習の学習をする中で、非常によく登場する概念です。確率変数のモーメントとも繋がりがあり、統計学や機械学習の基本書を読んでも、最新の論文を読んでも登場するので、期待値の概念について正しく理解すること […]