勾配ブースティングの理論と実装 — XGBoost/LightGBMの数理
ランダムフォレストが「多数の木の平均」でバリアンスを下げるのに対し、勾配ブーステ...
ベイズモデル平均化(BMA) — 複数モデルの予測を最適に統合する
ある問題に対してモデルを構築するとき、複数の候補モデルが同程度にデータをよく説明...
ランダムフォレストの理論と実装 — なぜアンサンブルは強いのか
1本の決定木は過学習しやすく、データのわずかな変化で構造が大きく変わる不安定なモ...
Isolation Forestの理論と実装をわかりやすく解説
異常検知（Anomaly Detection）は、データの中から「通常とは異なる...
勾配ブースティング（GBDT）の理論と実装を解説
勾配ブースティング（Gradient Boosting）は、損失関数の負の勾配（...
バギングの理論（分散削減の数学的証明）を解説
機械学習において、単一のモデルでは高いバリアンス（分散）を持つ不安定な予測器（例...
AdaBoostの理論と導出をわかりやすく解説して実装する
アンサンブル学習の代表的手法の1つである AdaBoost（Adaptive B...