迷惑メールか否か、画像が猫か犬か、検査結果が陽性か陰性か——分類とは「観測したデータ $x$ から、それがどのクラスに属するかを当てる」問題です。ここで根本的な問いが生まれます。どう決めれば、最も間違いが少なくなるのでしょうか？
その答えが ベイズ決定則（Bayes Decision Rule） です。ルールは驚くほどシンプルで、
観測 $x$ を見て、事後確率 $P(c \mid x)$ が最大のクラス $c$ を選ぶ
これだけです。「事後確率が最大のクラスを選ぶ」ので MAP決定則（最大事後確率分類） とも呼ばれます。そして重要なのは、このルールが理論上もっとも誤りが少ない分類器（ベイズ最適分類器）だと数学的に証明できることです。
この考え方を理解すると、次のような見通しが得られます。
- あらゆる分類器の「お手本」がわかる — ロジスティック回帰もナイーブベイズもニューラルネットも、突き詰めれば「事後確率が最大のクラスを選ぶ」ことを目指している
- 達成可能な性能の限界がわかる — どんなに頑張っても超えられない最小誤り（ベイズ誤り率）の存在を理解できる
本記事の内容
- ベイズ決定則の定義（事後確率最大のクラスを選ぶ）
- なぜそれが最適か — 0-1損失のもとでの導出
- 事前確率で動く決定境界
- 避けられない最小誤り「ベイズ誤り率」
- 尤度比と閾値、非対称損失、2次元の決定境界
なお本記事は「クラスを決める」決定理論の話です。観測からパラメータ（確率など）を推定するMAP推定とは目的が異なるので、合わせて読むと「MAP」という言葉の2つの使われ方が整理できます。
前提知識
この記事を読む前に、以下の記事を読んでおくと理解が深まります。
ベイズ決定則とは — 事後確率が最大のクラスを選ぶ
分類器に求められるのは、観測 $x$ ごとに「どのクラスと答えるか」を決めることです。ベイズ決定則は、その決め方として「いま手元の $x$ を踏まえて、各クラスである確率（事後確率）を計算し、いちばん高いものを選ぶ」という、人間の直感にも合うルールを採用します。
図は2クラスの例です。観測 $x$ の位置によって、$P(c_1 \mid x)$ と $P(c_2 \mid x)$ のどちらが大きいかが変わります。左側では $c_1$ の事後確率が高いのでクラス1と判定し、右側ではクラス2と判定します。2つの事後確率が等しくなる点が決定境界で、ここを境にクラスの判定が切り替わります。
では、その事後確率 $P(c \mid x)$ はどうやって求めるのでしょうか。鍵はベイズの定理です。
ベイズの定理 — 事後は「尤度 × 事前」
事後確率は、ベイズの定理によって「尤度」と「事前確率」から計算できます。
$$ \begin{equation} P(c \mid x) = \frac{P(x \mid c)\,P(c)}{P(x)} \propto P(x \mid c)\,P(c) \end{equation} $$
ここで $P(x \mid c)$ は尤度（そのクラスならこのデータがどれくらい出やすいか）、$P(c)$ は事前確率（そもそもそのクラスがどれくらいの割合で現れるか）です。分母の $P(x)$ はクラスに依存しない共通の値なので、クラス同士を比較するだけなら無視できます。つまり、ベイズ決定則は実質的に
$$ \hat{c} = \arg\max_c \; P(x \mid c)\,P(c) $$
「尤度 × 事前 が最大のクラスを選ぶ」ことに等しくなります。
左は2クラスの尤度（データの出やすさ）、右はそれに事前を掛けた同時確率です。各点で大きい方のクラスの領域に色を塗ると、決定境界がどこに引かれるかが見えます。直感的には「その $x$ をよく説明し、かつ普段からよく現れるクラス」が選ばれるわけです。
ここで「なぜ事後確率最大が”最善”と言えるのか」を、損失の観点からきちんと示しておきましょう。
なぜ最適なのか — 0-1損失で期待損失を最小化
「最善」を定義するには、間違いのコスト（損失）を決める必要があります。最も基本的なのが 0-1損失で、正解なら損失0、不正解なら損失1とするものです。
このとき、観測 $x$ に対してクラス $c$ と答えたときの期待損失は、次のように書けます。
$$ \begin{equation} \mathbb{E}[\text{損失} \mid x, c] = \sum_{c’} L(c, c’)\,P(c’ \mid x) = \sum_{c’ \neq c} P(c’ \mid x) = 1 – P(c \mid x) \end{equation} $$
0-1損失では「正解クラス以外の事後確率の合計」が期待損失になり、それは $1 – P(c\mid x)$ に等しくなります。
この式を見れば結論は明らかです。期待損失 $1 – P(c\mid x)$ を最小にするには、$P(c \mid x)$ が最大のクラスを選べばよい。つまり、事後確率最大のクラスを選ぶベイズ決定則こそが、平均的な誤りを最小にする最適な分類器なのです。これをベイズ最適分類器と呼びます。どんなに高性能な分類器も、原理的にこのベイズ決定則を超えることはできません。
「最適」がわかったところで、事前確率がこの決定にどう効くのかを見てみましょう。
事前確率で決定境界は動く
ベイズ決定則は尤度だけでなく事前確率も使う点が、単純な尤度比較（最尤分類）との違いです。あるクラスが普段からよく現れる（事前が大きい）なら、その分だけ有利に判定されます。
同じ尤度でも、事前 $P(c_1)$ を 0.5 → 0.8 と大きくすると決定境界が右に動き、クラス1の領域が広がります。逆に事前を小さくすれば領域は狭まります。たとえば「99%の人は健康」という強い事前があるなら、検査値が多少高くても「健康」と判定されやすくなる、という直感に対応します。事前を無視して尤度だけで決める（最尤分類）と、この「そもそもの起こりやすさ」を取りこぼします。
では、最適に決めても残ってしまう誤りはどれくらいあるのでしょうか。
ベイズ誤り率 — 避けられない最小の誤り
ベイズ決定則は最適ですが、それでも誤りはゼロにはなりません。クラスの分布が重なっている領域では、どちらに判定しても一定の確率で間違えるからです。この最適な分類器でも避けられない最小の誤りを ベイズ誤り率 と呼びます。
2クラスの場合、ベイズ誤り率は「事前×尤度」の小さい方を積分した、2つの分布の重なり（オレンジの領域）の面積になります。
$$ \text{ベイズ誤り率} = \int \min_c \big[\, P(x\mid c)\,P(c) \,\big]\, dx $$
この図の設定では実際に計算するとベイズ誤り率は 約0.067（6.7%）でした。重なりが大きいほど（クラスが見分けにくいほど）この値は大きくなります。重要なのは、これがデータの本質的な難しさを表す量で、特徴量を増やすなどしてクラスの重なり自体を減らさない限り、どんな分類器でもこれを下回れないという点です。
ここまでは複数クラスの一般論でした。2クラスの場合は、もっとシンプルな「比較」の形に書けます。
2クラスは「尤度比 vs 閾値」で判定できる
2クラスのベイズ決定則は、$P(c_1\mid x) > P(c_2\mid x)$ という条件です。これをベイズの定理で書き換えると、尤度比と事前比の比較になります。
$$ \frac{P(x\mid c_1)}{P(x\mid c_2)} \;\gtrless\; \frac{P(c_2)}{P(c_1)} $$
左辺の尤度比が、右辺の事前比（閾値）を超えればクラス1、下回ればクラス2と判定します。事前を変えると閾値（横線）が上下し、判定が切り替わる位置が動くことが図から読み取れます。この「尤度比を閾値と比べる」形は、検定理論（ネイマン・ピアソン）やROC曲線とも直結する、決定理論の基本形です。
ここまでは0-1損失（どの間違いも同じコスト）を前提にしてきました。しかし現実には、間違いのコストが対称とは限りません。
損失が非対称なら閾値が動く
病気の見逃し（偽陰性）と、健康な人を陽性と誤判定すること（偽陽性）では、ふつう前者のコストの方がずっと大きいですよね。このように誤分類のコストが非対称な場合、ベイズ決定則は「期待損失最小」という一般原理に立ち返って閾値を調整します。
クラス1を選ぶ条件は、損失の比を使って $P(c_1\mid x)/P(c_2\mid x) > L_{12}/L_{21}$ となります（$L_{12}$ はクラス1を2と誤るコスト）。見逃しのコストが大きいなら閾値を陽性側に寄せ、「疑わしきは陽性」と判定するわけです。そしてコストが対称（0-1損失）なら、この一般則はちょうど事後確率最大（MAP決定則）に一致します。MAP決定則は、一般のベイズ決定則の特別な場合だったのです。
最後に、ここまでの1次元の話を2次元に広げて、決定境界の形を見てみましょう。
2次元の決定境界
特徴量が2次元以上になると、決定境界は直線とは限らず曲線になります。各クラスをガウス分布でモデル化し、事後確率が0.5になる点を結ぶと境界が描けます。
2つのクラスの共分散（分布の形）が異なるため、決定境界は曲線（二次曲線）になっています。クラスの分散が同じなら境界は直線（線形判別分析＝LDA）に、異なると曲線（二次判別分析＝QDA）になる、という関係がここに表れています。いずれの場合も、やっていることは「各点で事後確率が最大のクラスを選ぶ」というベイズ決定則そのものです。
ベイズ決定則の位置づけ — 生成モデルと識別モデル
最後に、実際の分類手法がこの枠組みのどこに位置するかを整理します。ポイントは「事後確率 $P(c\mid x)$ をどうやって手に入れるか」の違いです。
- 生成モデル: 尤度 $P(x\mid c)$ と事前 $P(c)$ を学習し、ベイズの定理で事後に変換する。ナイーブベイズや判別分析（LDA/QDA）がこれにあたります
- 識別モデル: 事後 $P(c\mid x)$ を直接学習する。ロジスティック回帰やニューラルネット分類器がこれです
アプローチは違いますが、最後に「事後確率が最大のクラスを選ぶ」=ベイズ決定則を使う点は共通です。つまりベイズ決定則は、個別の分類手法の背後にある「分類とは何をすべきか」という共通の指針なのです。
まとめ
本記事では、ベイズ決定則（MAP決定則）を解説しました。
- ベイズ決定則: 観測 $x$ に対し、事後確率 $P(c\mid x)$ が最大のクラスを選ぶ。事後は「尤度 × 事前」に比例する
- 最適性: 0-1損失のもとで期待損失は $1 – P(c\mid x)$ となり、事後確率最大の選択が期待損失を最小にする（ベイズ最適分類器）
- 事前の効果: 事前確率が大きいクラスほど決定境界が広がる
- ベイズ誤り率: 最適な分類器でも避けられない最小誤りで、2分布の重なりの面積。データの本質的な難しさを表す
- 2クラス: 尤度比を事前比（閾値）と比べる形になる。非対称損失なら閾値が動き、0-1損失ならMAP決定則に一致する
- 位置づけ: 生成モデルも識別モデルも、最後はベイズ決定則で事後最大のクラスを選ぶ
「事後確率が最大のクラスを選ぶ」という一見当たり前のルールが、実は誤りを最小にする最適な分類だった——この事実が、分類という問題全体の理論的な土台になっています。
次のステップとして、以下の記事も参考にしてください。