Transcript WPR-7
パターン認識
ー角度に基づく識別:
部分空間法と類似度法ー
担当:和田 俊和
部屋 A513
Email [email protected]
講義資料はhttp://wada1.sys.wakayama-u.ac.jp/PR/
パターンの部分空間への射影
x
一般に同一クラスに属するパターンは
低次元の部分空間内に偏在するケー
スが多い。
Px
P UU
d次元部分空間
U u 1
T
ud
d次元正規直交基底
(K-L展開によって求める)
P x 部分空間への射影成分
部分空間の構築
R
1
n
x x
n
i
i0
T
i
の固有値問題を解くことによって
れる。
トレーニングパターン
固有ベクトル
u i が得ら
部分空間法(subspace method)
2
x
Px
d次元部分空間
x
Px
|| Pi x || を最大化するクラスに分類する。
つまり、入力との角度差が最も小さい
部分空間に属すると判定する方法。
U i u i1
Pi U iU i
Px
x
T
u id i
部分空間法(評価尺度)
T
Pi Pi Pi および Pi Pi が成り立つ。
このことから、
T
|| Pi x || x P i Pi x x P i Pi x x Pi x
2
T
T
T
が成り立つ。さらに、効率の良い計算方法を求めると
di
T
|| Pi x || x Pi x x U iU i x
2
T
T
(u
T
ij
x)
2
j 1
となり、この値の大小によって識別が行われる。つま
り、パターン x がクラス i に属すると考えた場合の
類似度 S i (x ) は、次式で表される。 d i
S i (x)
(u
j 1
T
ij
x)
2
部分空間法(部分空間の次元数の決定)
部分空間の次元数の決定
•次元数を低くし過ぎるとパターンの近似精度が落ちる。
•次元数を上げすぎると各クラス間の重なりが大きくなり、
識別性能が落ちる。
累積寄与率 a ( d i )
di
a (d i )
ij
j 1
a ( d i ) a ( d i 1)
d
j 1
各クラス i について定数
を定めて、
ij
を満足する次元数 d i を求
める。
類似度法(単純類似度法)
T
S i (x)
x ui
u i はクラス ω iの代表
|| x ||
パターン(単位ベクトル)
cos
x
ui
パターンの振幅変化に対
しては影響を受けない。
ある種の不変特徴抽出を
行っていることと等価。
類似度法(複合類似度法)
T
d
S i (x)
j 1
ij ( x u ij )
T
2
i1 x x
T
x x は正規化のため
に導入されたものであり
実際には無視できる。
これを無視すると、
d
ui
x
複合類似度法は部分空間法の一種
j 1
ij ( x u ij )
T
2
i1
となり、部分空間法によって
求まる類似度と酷似した形式
が得られる。異なる点は、個々
の内積に対して重み ij / i 1
が掛けられていることである。
類似度法(混合類似度法)
ij
d
S i (x)
j 1
i1
( x u ij ) ( x v i )
T
2
T
T
x x
本の木に対する残差
2
違いの部分にパ
ターンがあるか否
かを強調する。
例「本」か「木」か
混合類似度
本の木に対する残差
を i の部分空間
に射影した際の残差ベクトルを長さ1に正規化したベクトル。
v i は、類似クラスの平均パターン μ k
d
v μk
'
i
j 1
vi
v
'
i
|| v i ||
T
k
μ u ij u ij
μk
vi