【はじめてのパターン認識】第3章ベイズの識別規則

はじめてのパターン認識を読んでいる。
その個人的メモ。

はじめてのパターン認識

作者: 平井有三
出版社/メーカー: 森北出版
発売日: 2012/07/31
メディア: 単行本（ソフトカバー）
購入: 1人クリック: 7回
この商品を含むブログ (3件) を見る

本章では、ベイズの識別規則とROC曲線についての説明がメインになされている。

ベイズの識別規則

観測データを ${x}$ 、識別クラスを ${C_i}$ とする。
ベイズの識別規則は次式で定義される事後確率が最大なクラスに観測データを分類する、というもの。

事後確率 ${P(C_i | x)}$
クラス条件付き確率（尤度） ${p(x|C_i)}$
周辺確率 ${p(x)}$
事前確率 ${P(C_i)}$ として、 ${}$ $$ P(C_i | x) = \frac{p(x|C_i)}{p(x)} \times P(C_i) = (修正項) \times (事前確率) $$

この式から、事前確率が尤度と周辺確率で修正されて事後確率が得られることがわかる。
具体的には、

クラスを指定した時のxの生起確率である尤度 ${p(x|C_i)}$ が、クラスを指定しない時の生起確率 ${p(x)}$ よりも

大きければ、事後確率は事前確率より大きくなり、
小さければ、事後確率は事前確率より小さくなる

クラス ${C_i}$ とクラス ${C_j}$ の識別境界は、事後確率が等しくなるところ、すなわち、 ${}$ $$ P(C_i|x) = P(C_i | x) = \frac{p(x|C_i)}{p(x)} \times P(C_i) = \frac{p(x|C_j)}{p(x)} \times P(C_j) = P(C_j | x) $$ が成り立つところとなる。式からわかるように周辺確率は ${p(x)}$ はどちらのクラスにも共通に現れているため、識別規則に含める必要はない。したがって、ベイズの識別規則は、(識別クラス) = ${arg max p(x|C_i)P(C_i)}$ で与えられる。