Learning Guide
ベイズ統計・ベイズ推論ガイド
ベイズの定理から共役事前分布、ガウス過程、MCMC、変分推論まで。6章・28記事でベイズ統計の理論と実装を学ぶ。
01
ベイズの基礎
ベイズ統計の出発点となるベイズの定理を理解する。事後分布・MAP推定・周辺尤度の概念を固め、頻度主義との違いを明確にする。
1更新予定
2ベイズの定理
ベイズの定理の直感的理解と導出
MAP推定
事後分布の最頻値による点推定
周辺尤度とは
周辺尤度の定義とモデル選択での役割
4更新予定
5ベイズ vs 頻度主義
2つの統計パラダイムの違いを整理
ベイズ推論の基礎
ベイズ推論の基本的な枠組みを解説
02
共役事前分布と解析的推論
共役事前分布を使えば事後分布が解析的に求まる。ベルヌーイ・ポアソン・正規分布など代表的な尤度関数に対する共役更新を学ぶ。
03
ベイズ線形回帰とガウス過程
ベイズ推論を回帰問題に応用する。重みの事後分布が解析的に求まるベイズ線形回帰から、無限次元への拡張であるガウス過程回帰まで。
04
MCMCサンプリング
解析解が得られない場合のベイズ推論の切り札。マルコフ連鎖モンテカルロ法の代表的なアルゴリズムを理論から実装まで学ぶ。
05
変分推論
MCMCに代わる近似推論法。変分ベイズの枠組みでELBOを最大化し、事後分布を効率的に近似する手法を学ぶ。
06
発展的トピック
ベイズ統計の応用と発展。階層ベイズ・経験ベイズ・ノンパラメトリクス・モデル比較・ベイズ検定など、実践で必要な高度な手法を学ぶ。