2007年に発表された、Bayesian Online Changepoint Detectionの紹介と解説を行います。該当論文のarxivへのリンクはこちらになっています。この解説記事は、この論文の英語版の解説記事を […]
次回列分析においては、ARIMAやSARIMAのように、過去の観測値をもとにモデル化する手法がある一方で、状態空間モデルは、観測値以外の見えない状態量があると仮定し、その状態により観測値が生起されるとしてモデル化する手法 […]
VAE(Variational Auto Encoder, 変分オートエンコーダー)は、ニューラルネットワークと取り入れた、生成モデルのアルゴリズムです。 生成モデルと言っても、PCA(主成分分析)やSVD(特異値分解) […]
深層学習や機械学習などの論文を読んでいると、多変量正規分布のKL情報量について、あたかも知ってて当然かのような書き振りで、結論だけを提示されており、途方に暮れる人も多いのではないでしょうか。 今回は、2つの異なる多変量正 […]
混合ポアソン分布は混合分布の1例で、離散値をとり多峰性を持つような分布を表現する際に、よく用いられます。 混合ポアソン分布のパラメータを推定する場合、EMアルゴリズムや変分推論などの手法に加えて、MCMCの1つである、ギ […]
ベイズモデルにおいては、あるモデルを考えるときに、生成モデル(generative model)を考えます。生成モデルとは、データが生成する過程をモデル化することで、データの分布を表現する手法です。 生成モデルによる定式 […]
変分推論(variational inference)は、ベイズ手法で解析的に事後分布を求めることができない場合に、非常によく利用される近似アルゴリズムです。変分推論は文脈によっては、変分ベイズと呼ばれたりしています。 […]
pymcはベイジアンモデリングをPythonで行うためのPPL(確率的プログラミング言語)のフレームワークです。 ベイジアンモデリングは近年機械学習の有力な手法として利用されていますが、解析的に解けるわずかな例を除いて解 […]
ゼロから理解するロードマップシリーズ、第一弾は「ゼロから理解するカルマンフィルタ 」です。 ゼロから理解するシリーズでは、知識ゼロから目的のアルゴリズムや手法を理解することを通して、同時にそのアルゴリズムの導出に使ってい […]
隠れマルコフモデルは、離散的な状態を仮定する、いわゆる状態空間モデルのアルゴリズムです。 学習にはベイズ推定を用います。隠れマルコフモデル自体は、時系列データの分析などで、比較的最近でも多くの論文等で登場している有名で実 […]