ガウス分布(多変量正規分布)の線形変換はガウス分布になる

Posted: , Category: 数学 , 統計学 , 線形代数

一般的に、任意のガウス分布に従う確率変数 $X$において、線形変換$\bm{A}X + \bm{b}$を行っても、変換後の分布もガウス分布になることが知られています。

この事実は、ガウス過程回帰や線形動的モデル、カルマンフィルタなど機械学習の応用テーマの導出等に、非常に多く登場する変換ですので、この性質を理解していくことは非常に重要です。

タイトルは多変量正規分布とかきましたが、この線形変換の性質は、通常の1次元の正規分布でも成り立つ性質です。

ガウス分布(多変量正規分布)の線形変換

まず、最初にガウス分布が、線形変換によってどのようなガウス分布になるのか、結論を示します。

ガウス分布の線形変換 の公式

ある確率変数$X$が次のガウス分布に従う時、

\begin{equation}
X \sim \mathcal{N}(\bm{\mu}, \Sigma)
\end{equation}

$X$を$AX + b$の線形変換した分布は(3)式のようになる。

\begin{equation}
AX + b \sim\mathcal{N}(A\bm{\mu} + b, A\Sigma A^T)
\end{equation}

ガウス分布に従う$X$において、$AX + b$の線形変換(アフィン変換)を施すと、新しいガウス分布の平均$\mu_{new} = \bm{\mu} + b$、新しい分散共分散$\sum_{new} = A\sum A^T$になります。

ガウス分布の線形変換がガウス分布になる証明

証明には、確率変数の変数変換を用いた手法があります。

少し長くなるので、証明に関しては後日追記とします。

【広告】
統計学的にあなたの悩みを解決します。
仕事やプライベートでお悩みの方は、ベテラン占い師 蓮若菜にご相談ください。

機械学習と情報技術