次回列分析においては、ARIMAやSARIMAのように、過去の観測値をもとにモデル化する手法がある一方で、状態空間モデルは、観測値以外の見えない状態量があると仮定し、その状態により観測値が生起されるとしてモデル化する手法 […]
深層学習や機械学習などの論文を読んでいると、多変量正規分布のKL情報量について、あたかも知ってて当然かのような書き振りで、結論だけを提示されており、途方に暮れる人も多いのではないでしょうか。 今回は、2つの異なる多変量正 […]
一般的に、任意のガウス分布に従う確率変数 $X$において、線形変換$\bm{A}X + \bm{b}$を行っても、変換後の分布もガウス分布になることが知られています。 この事実は、ガウス過程回帰や線形動的モデル、カルマン […]
機械学習でガウス過程回帰やカルマンフィルタの導出をまともに理解しようとすると、多変量ガウス分布の条件付き分布にぶち当たることになります。 この導出自体は非常に多くの式変形を必要とし、理解するのがなかなかカオスです。一方で […]
多変量ガウス分布の周辺化は、かの有名なPRMLでも登場する概念です。 計算的にも結構しんどい内容が多く、意外と多くの人が飛ばしてしまっている内容なんじゃないのかなと思います。しかし、ガウス過程やカルマンフィルタの導出や概 […]