過学習の対策まとめ — Dropout・正則化・Early Stopping・Data Augmentation
深層学習モデルは数百万〜数十億のパラメータを持ち、訓練データに対してはほぼ完璧な...
ラベル平滑化（Label Smoothing）の完全ガイド — 過信を抑える正則化の理論と実装
画像分類モデルを学習させて、テスト画像を1枚見せたとします。モデルは「これはネコ...
Early Stoppingの理論 — L2正則化との等価性を導出する
早期終了（Early Stopping）は、検証誤差の推移を監視し、過学習が始ま...
リッジ回帰とLASSOの理論 — 正則化の数学
重回帰分析では、説明変数の数 $p$ が増えるほどモデルの表現力は高まりますが、...
Elastic Netの理論と正則化パスの導出
遺伝子発現データを使って疾患の有無を予測するモデルを作りたいとしましょう。測定さ...
Dropoutの理論とMC Dropoutによる不確実性推定
Dropout は、ニューラルネットワークの過学習を防ぐ正則化手法として広く使わ...
機械学習における正則化とは？L1・L2正則化を分かりやすく解説
正則化(Regularization)は、機械学習モデルの過学習を防ぐための基本...
カーネルリッジ回帰の理論と実装をわかりやすく解説
カーネルリッジ回帰(Kernel Ridge Regression)は、リッジ回...
リッジ回帰とは？正則化付き回帰の理論と実装を解説
リッジ回帰(Ridge Regression)は、通常の最小二乗法による重回帰分...