離散一様分布・連続一様分布の定義や期待値や分散を分かりやすく解説

Posted: , Category: 数学 , 確率分布 , 統計学

確率分布の中で、最も基本的な確率分布が一様分布です。よくベイズ統計学において、事前に何も情報がないような場合の無情報事前分布としても利用されることのある、この一様分布ですが、今回は、一様分布の定義や期待値・分散等の基本的な性質についてまとめます。

一様分布は、確率変数の値が離散的な離散一様分布 (discrete uniform distribution)と、確率変数の値が連続的な連続一様分布が存在します。

今回はこれらの一様分布を、離散、連続に分けて丁寧に解説していきます。

本記事の内容
  • 離散一様分布について解説
  • 連続一様分布について解説

離散一様分布を丁寧に解説

まず、離散一様分布のについて解説します。まず離散一様分布の定義についてです。

離散一様分布の定義

離散型確率変数$X$において、$X$の定義域が$x = \{ 0, 1, 2, \dots N \}$であり、確立関数が

\begin{equation}
\begin{split}
P(X = x | N) = \frac{1}{N}
\end{split}
\end{equation}

となるとき、確率変数$X$は、$ \{ 0, 1, 2, \dots N \}$上の離散一様分布という。

離散一様分布の期待値と分散

離散一様分布の期待値と分散をまず最初に示し、その後に証明を行います。

離散一様分布の期待値と分散

期待値

\begin{equation}
\begin{split}
E[X] = \frac{N+1}{2}
\end{split}
\end{equation}

分散

\begin{equation}
\begin{split}
Var[X] = \frac{(N+1)(N-1)}{12}
\end{split}
\end{equation}

離散一様分布の期待値と分散を証明します。いろいろなやり方があり、確率母関数を求め、その微分を求める方法もありますが、ここでは期待値と分散の直接の定義式からこれらを証明してみます。

離散一様分布の期待値の証明

離散一様分布の期待値の証明は、期待値の定理そのものを利用することで簡単に証明できます。確率分布の期待値についての解説はこちらの記事をご覧ください。

確率変数の期待値について徹底解説
確率変数の期待値は、機械学習の学習をする中で、非常によく登場する概念です。確率変数のモーメントとも繋がりがあり、統計学や機械学習の基本書を読んでも、最新の論文を読んでも登場するので、期待値の概念について正しく理解すること […]
証明

離散一様分布の確率関数と、期待値の定義式より、離散一様分布の期待値$E[X]$は、

\begin{equation}
\begin{split}
E[X] &= \sum_{n=1}^{N} \frac{1}{N} x  \\
&= \frac{1}{N} \frac{N(N+ 1)}{2} \\
&= \frac{N+1}{2}
\end{split}
\end{equation}

離散一様分布の分散の証明

期待値と同様に、分散の定義から証明を行います。離散確率分布の分散の定義については、こちらの記事で詳しく解説しています。

確率変数の分散についてわかりやすく解説。定義や意味など
確率変数における期待値と分散は機械学習や統計学を学ぶ上で、最も基本的な概念である。期待値については別の記事で解説しているので、今回は確率変数における分散について扱っていく。また注意して欲しいのは、今回扱っている分散はあく […]
証明

離散一様分布の確率関数と、分散の定義式より、離散一様分布の期待値$VaerX]$は、

\begin{equation}
\begin{split}
Var[X] &= E[(X - E[X]^2)] \\
&= \sum_{n=1}^{N} \frac{1}{N} \biggl (x - \frac{N+1}{2} \biggr )^2  \\
&= \frac{1}{N}  \sum_{n=1}^{N} \biggl \{x^2 - x(N+1) - (N+1)^2 \biggr \} \\
&= \frac{1}{N}  \biggl \{\frac{1}{6}N(N+1)(2N +1) - \frac{1}{2}N(N+1)^2 + \frac{1}{4}N(N+1)^2 \biggr \} \\
&=  \frac{1}{N} \frac{N(N+1)}{12} \biggl \{ 2(2N+1) -6(N+1) +3(N+1) \biggr \} \\
&= \frac{N+1}{12} (4N + 2 - 6N - 6 +3N + 3) \\
&= \frac{(N+1)(N-1)}{12}
\end{split}
\end{equation}

分散の定義より証明できますが、$E[X^2]$を求めてから、

Var[X] = E[X^2] - E[X]^2

の関係式からも導出することができます。

連続一様分布を丁寧に解説

連続一様分布も数多く登場します。特に、ベイズ推定の分野では、無情報事前分布として、連続一様分布を利用することもあり、登場頻度は比較的高い確率分布です。

連続一様分布の定義

連続確率変数$X$において、$X$の定義域が$[a, b]$であり、$X$の確率密度関数が、

\begin{equation}
\begin{split}
f_X(x | a, b) = \biggr \{
\begin{array}{ll}
\frac{1}{b-a}   & (a \leq x \leq b )  \\ 
0 & それ以外
\end{array}
\end{split}
\end{equation}

となるとき、確率変数$X$は、閉区間$[a, b]$における、一様分布(uniform distribution)に従うという。

連続一様分布の期待値と分散

連続一様分布の期待値と分散

期待値

\begin{equation}
\begin{split}
E[X] = \frac{a + b}{2}
\end{split}
\end{equation}

分散

\begin{equation}
\begin{split}
Var[X] = \frac{(b-a)^2}{12}
\end{split}
\end{equation}

【広告】
統計学的にあなたの悩みを解決します。
仕事やプライベートでお悩みの方は、ベテラン占い師 蓮若菜にご相談ください。

機械学習と情報技術