Transcript 第4章 識別部の設計

「わかりやすいパターン認識」
第４章：識別部の設計
４・３ 識別関数の設計
１ 線形識別関数の設計
２ 線形識別関数を用いた多クラスの識別
３ 一般識別関数
発表日：2003/5/9（金）
担当者：脇坂恭志郎
[３] 一般識別関数
• ２次識別関数
一般識別関数の最も簡単な例。
スカラー量 0、d次元ベクトル 、(d,d)行列 Wを用いて
次のように定義される。
g( x)  0   t x  xtWx
この関数の重みベクトルの最適化問題は、
線形識別関数の重みベクトルの最適化と
全く同じ枠組みで解く事が出来る。
・２次識別関数の重みベクトル最適化問題
例）特徴空間が１次元で、２次識別関数が
g( x)  0  1 x  2 x
2
と定義されているとする。
2 t
y

(
1
,
x
,
x
) を定義し、
ここで新たにベクトル
  (0 ,1 ,2 )t と置くと、与式は
g( y)   y
t
と書き直せる。
・２次識別関数
－各クラスの共分散行列が等しい（ 1  2 ）とき
最適な識別関数は線形である。
→ m1  m2 に垂直な超平面として表される。
→ P(1 )  P(2 ) のとき最適な決定境界は m1 , m2の
中点となる。
－各クラスの共分散行列が異なる（ 1  2 ）とき
最適な識別関数は２次識別関数で表される。
→ 決定境界は２次曲面となる。
・線形識別関数の頑健性
ー2次識別関数は、一定の精度を実現させえるために、
多くのパラメータ（ d 2のオーダ）を必要とする。
線形識別関数の方が良い結果をもたらすことがある。
（この事を、線形識別関数の頑健性と呼ぶ）
・任意の関数の線形結合
x に関する任意のｋ個の関数を  ( x) （i=1,2,…,k）と置く。
1
k
g( x)   ii ( x)   0
i 1
ここで新たにベクトル y  (1 ( x),,k ( x)) を置けば、
上式はｙを特徴ベクトルとみなした線形識別関数となる。
この線形識別関数を一般識別関数、またはφ関数と呼ぶ。
ただし、ある識別関数を実現する為のi ( x ) の
必要条件は、一般には分からない。