確率分布の中で、最も基本的な確率分布が一様分布です。よくベイズ統計学において、事前に何も情報がないような場合の無情報事前分布としても利用されることのある、この一様分布ですが、今回は、一様分布の定義や期待値・分散等の基本的な性質についてまとめます。
一様分布は、確率変数の値が離散的な離散一様分布 (discrete uniform distribution)と、確率変数の値が連続的な連続一様分布が存在します。
今回はこれらの一様分布を、離散、連続に分けて丁寧に解説していきます。
- 離散一様分布について解説
- 連続一様分布について解説
離散一様分布を丁寧に解説
まず、離散一様分布のについて解説します。まず離散一様分布の定義についてです。
離散型確率変数$X$において、$X$の定義域が$x = \{ 0, 1, 2, \dots N \}$であり、確立関数が
\begin{equation}
\begin{split}
P(X = x | N) = \frac{1}{N}
\end{split}
\end{equation}となるとき、確率変数$X$は、$ \{ 0, 1, 2, \dots N \}$上の離散一様分布という。
離散一様分布の期待値と分散
離散一様分布の期待値と分散をまず最初に示し、その後に証明を行います。
期待値
\begin{equation}
\begin{split}
E[X] = \frac{N+1}{2}
\end{split}
\end{equation}分散
\begin{equation}
\begin{split}
Var[X] = \frac{(N+1)(N-1)}{12}
\end{split}
\end{equation}離散一様分布の期待値と分散を証明します。いろいろなやり方があり、確率母関数を求め、その微分を求める方法もありますが、ここでは期待値と分散の直接の定義式からこれらを証明してみます。
離散一様分布の期待値の証明
離散一様分布の期待値の証明は、期待値の定理そのものを利用することで簡単に証明できます。確率分布の期待値についての解説はこちらの記事をご覧ください。
離散一様分布の確率関数と、期待値の定義式より、離散一様分布の期待値$E[X]$は、
\begin{equation}
\begin{split}
E[X] &= \sum_{n=1}^{N} \frac{1}{N} x \\
&= \frac{1}{N} \frac{N(N+ 1)}{2} \\
&= \frac{N+1}{2}
\end{split}
\end{equation}離散一様分布の分散の証明
期待値と同様に、分散の定義から証明を行います。離散確率分布の分散の定義については、こちらの記事で詳しく解説しています。
離散一様分布の確率関数と、分散の定義式より、離散一様分布の期待値$VaerX]$は、
\begin{equation}
\begin{split}
Var[X] &= E[(X - E[X]^2)] \\
&= \sum_{n=1}^{N} \frac{1}{N} \biggl (x - \frac{N+1}{2} \biggr )^2 \\
&= \frac{1}{N} \sum_{n=1}^{N} \biggl \{x^2 - x(N+1) - (N+1)^2 \biggr \} \\
&= \frac{1}{N} \biggl \{\frac{1}{6}N(N+1)(2N +1) - \frac{1}{2}N(N+1)^2 + \frac{1}{4}N(N+1)^2 \biggr \} \\
&= \frac{1}{N} \frac{N(N+1)}{12} \biggl \{ 2(2N+1) -6(N+1) +3(N+1) \biggr \} \\
&= \frac{N+1}{12} (4N + 2 - 6N - 6 +3N + 3) \\
&= \frac{(N+1)(N-1)}{12}
\end{split}
\end{equation}分散の定義より証明できますが、$E[X^2]$を求めてから、
Var[X] = E[X^2] - E[X]^2
の関係式からも導出することができます。
連続一様分布を丁寧に解説
連続一様分布も数多く登場します。特に、ベイズ推定の分野では、無情報事前分布として、連続一様分布を利用することもあり、登場頻度は比較的高い確率分布です。
連続確率変数$X$において、$X$の定義域が$[a, b]$であり、$X$の確率密度関数が、
\begin{equation}
\begin{split}
f_X(x | a, b) = \biggr \{
\begin{array}{ll}
\frac{1}{b-a} & (a \leq x \leq b ) \\
0 & それ以外
\end{array}
\end{split}
\end{equation}となるとき、確率変数$X$は、閉区間$[a, b]$における、一様分布(uniform distribution)に従うという。
連続一様分布の期待値と分散
期待値
\begin{equation}
\begin{split}
E[X] = \frac{a + b}{2}
\end{split}
\end{equation}分散
\begin{equation}
\begin{split}
Var[X] = \frac{(b-a)^2}{12}
\end{split}
\end{equation}