Transcript WPR-7

パターン認識
ー角度に基づく識別:
部分空間法と類似度法ー
担当：和田 俊和
部屋 A513
Email [email protected]
講義資料はhttp://wada1.sys.wakayama-u.ac.jp/PR/
パターンの部分空間への射影
x
一般に同一クラスに属するパターンは
低次元の部分空間内に偏在するケー
スが多い。
Px
P  UU
ｄ次元部分空間
U  u 1
T

ud 
ｄ次元正規直交基底
（K-L展開によって求める)
P x 部分空間への射影成分
部分空間の構築
R 
1
n
x x

n
i
i0
T
i
の固有値問題を解くことによって
れる。
トレーニングパターン
固有ベクトル
u i が得ら
部分空間法（subspace method）
2
x
Px
ｄ次元部分空間
x
Px
|| Pi x || を最大化するクラスに分類する。
つまり、入力との角度差が最も小さい
部分空間に属すると判定する方法。

U i  u i1
Pi  U iU i
Px
x

T
u id i

部分空間法（評価尺度）
T
Pi Pi  Pi および Pi  Pi が成り立つ。
このことから、
T
|| Pi x ||  x P i Pi x  x P i Pi x  x Pi x
2
T
T
T
が成り立つ。さらに、効率の良い計算方法を求めると
di
T
|| Pi x ||  x Pi x  x U iU i x 
2
T
T
 (u
T
ij
x)
2
j 1
となり、この値の大小によって識別が行われる。つま
り、パターン x がクラス i に属すると考えた場合の
類似度 S i (x ) は、次式で表される。 d i
S i (x) 
 (u
j 1
T
ij
x)
2
部分空間法（部分空間の次元数の決定）
部分空間の次元数の決定
•次元数を低くし過ぎるとパターンの近似精度が落ちる。
•次元数を上げすぎると各クラス間の重なりが大きくなり、
識別性能が落ちる。
累積寄与率 a ( d i )
di

a (d i ) 
ij
j 1
a ( d i )    a ( d i  1)
d

j 1
各クラス  i について定数 
を定めて、
ij
を満足する次元数 d i を求
める。
類似度法（単純類似度法）
T
S i (x) 
x ui
u i はクラス ω iの代表
|| x ||
パターン(単位ベクトル）
 cos 
x
ui 
パターンの振幅変化に対
しては影響を受けない。
ある種の不変特徴抽出を
行っていることと等価。
類似度法（複合類似度法）
T
d
S i (x) 

j 1
 ij ( x u ij )
T
2
 i1 x x
T
x x は正規化のため
に導入されたものであり
実際には無視できる。
これを無視すると、
d
ui
x
複合類似度法は部分空間法の一種

j 1
 ij ( x u ij )
T
2
 i1
となり、部分空間法によって
求まる類似度と酷似した形式
が得られる。異なる点は、個々
の内積に対して重み ij /  i 1
が掛けられていることである。
類似度法（混合類似度法）
 ij
d
S i (x) 

j 1
 i1
( x u ij )   ( x v i )
T
2
T
T
x x
本の木に対する残差
2
違いの部分にパ
ターンがあるか否
かを強調する。
例「本」か「木」か
混合類似度
本の木に対する残差
を  i の部分空間
に射影した際の残差ベクトルを長さ１に正規化したベクトル。
v i は、類似クラスの平均パターン μ k
d
v  μk 
'
i

j 1
vi 
v
'
i
|| v i ||
T
k
μ u ij u ij
μk
vi