パターン認識特論

パターン認識
ー部分空間法と類似度法ー
担当:和田 俊和
部屋 A513
Email [email protected]
講義資料はhttp://wada1.sys.wakayama-u.ac.jp/PRA/
パターンの部分空間への射影
x
一般に同一クラスに属するパターンは
低次元の部分空間内に偏在するケー
スが多い。
Px
P  UU
U  u1  ud 
T
d次元部分空間
d次元正規直交基底
(K-L展開によって求める)
P x 部分空間への射影成分
部分空間の構築
1 n
T
R   xi xi
n i 0
の固有値問題を解くことによって
れる。
トレーニングパターン
固有ベクトル
ui が得ら
部分空間法(subspace method)
x
Px
d次元部分空間
x
Px
|| Pi x ||
2
を最大化するクラスに分類する。
つまり、入力との角度差が最も小さい
部分空間に属すると判定する方法。

Ui  ui1  uidi
Pi  UiUi
Px
x
T

部分空間法(評価尺度)
Pi Pi  Pi
および
Pi  Pi
T
が成り立つ。
このことから、
|| Pi x ||  x Pi Pi x  x Pi Pi x  x Pi x
2
T
T
T
T
が成り立つ。さらに、効率の良い計算方法を求めると
di
|| Pi x ||  x Pi x  x U iU i x   (u x)
2
T
T
T
T
ij
j 1
2
となり、この値の大小によって識別が行われる。つま
り、パターン x がクラスi に属すると考えた場合の
類似度 S i (x) は、次式で表される。 d i
Si (x)   (u x)
j 1
T
ij
2
部分空間法(部分空間の次元数の決定)
部分空間の次元数の決定
•次元数を低くし過ぎるとパターンの近似精度が落ちる。
•次元数を上げすぎると各クラス間の重なりが大きくなり、
識別性能が落ちる。
累積寄与率
a(d i )
di
a(d i ) 

j 1
d
ij

j 1
ij
各クラスについて定数
定めて、

を
a(di )    a(di  1)
を満足する次元数
める。
di
を求
類似度法(単純類似度法)
T
x ui
Si (x) 
|| x ||
ui はクラス ωiの代表
パターン(単位ベクトル)
 cos 
x
ui 
パターンの振幅変化に対
しては影響を受けない。
ある種の不変特徴抽出を
行っていることと等価。
類似度法(複合類似度法)
ij (x uij )
Si (x)  
T

x
x
j 1
i1
T
d
2
xT x は正規化のため
に導入されたものであり
実際には無視できる。
これを無視すると、
ij (xT uij ) 2

i1
j 1
d
ui
x
複合類似度法は部分空間法の一種
となり、部分空間法によって
求まる類似度と酷似した形式
が得られる。異なる点は、個々
の内積に対して重みij / i1
が掛けられていることである。
類似度法(混合類似度法)
d
S i ( x)  
j 1
ij T 2
T
2
(x uij )   (x v i )
i1
T
x x
本の木に対する残差
違いの部分にパ
ターンがあるか否
かを強調する。
例「本」か「木」か
混合類似度
本の木に対する残差
vi は、類似クラスの平均パターン μ k

を i の部分空間
に射影した際の残差ベクトルを長さ1に正規化したベクトル。
d
v  μ k   μ uijuij
'
i
vi 
j 1
v
'
i
|| v i ||
T
k
μk
vi