WPR-5

パターン認識
ー部分空間法と類似度法ー
担当:和田 俊和
部屋 A513
Email [email protected]
講義資料はhttp://wada1.sys.wakayama-u.ac.jp/PRA/
パターンの部分空間への射影
x
一般に同一クラスに属するパターンは
低次元の部分空間内に偏在するケー
スが多い。
Px
P  UU
U  u1  u d 
T
d次元部分空間
d次元正規直交基底
(K-L展開によって求める)
Px 部分空間への射影成分
部分空間の構築
1 n
T
R   xi xi
n i 0
の固有値問題を解くことによって
れる。
トレーニングパターン
固有ベクトル
u i が得ら
部分空間法(subspace method)
x
Px
d次元部分空間
x
Px
|| Pi x ||
2
を最大化するクラスに分類する。
つまり、入力との角度差が最も小さい
部分空間に属すると判定する方法。

U i  u i1  u idi
Pi  U iU i
Px
x
T

部分空間法(評価尺度)
Pi Pi  Pi
および
Pi  Pi
T
が成り立つ。
このことから、
|| Pi x ||  x Pi Pi x  xT Pi Pi x  xT Pi x
2
T
T
が成り立つ。さらに、効率の良い計算方法を求めると
di
|| Pi x ||  x Pi x  x U iU i x   (uTij x) 2
2
T
T
T
j 1
となり、この値の大小によって識別が行われる。つま
り、パターン x がクラス i に属すると考えた場合の
類似度 Si (x) は、次式で表される。 d i
Si (x)   (u x)
j 1
T
ij
2
部分空間法(部分空間の次元数の決定)
部分空間の次元数の決定
•次元数を低くし過ぎるとパターンの近似精度が落ちる。
•次元数を上げすぎると各クラス間の重なりが大きくなり、
識別性能が落ちる。
累積寄与率
a(d i )
di
a(d i ) 

j 1
d
ij

j 1
ij
各クラスについて定数
定めて、

を
a(di )    a(di  1)
を満足する次元数
める。
di
を求
類似度法(単純類似度法)
T
x ui
S i ( x) 
|| x ||
u i はクラス ωiの代表
パターン(単位ベクトル)
 cos
x
ui 
パターンの振幅変化に対
しては影響を受けない。
ある種の不変特徴抽出を
行っていることと等価。
類似度法(複合類似度法)
ij (xT u ij ) 2
S i ( x)  
T
i1x x
j 1
d
xT x は正規化のため
に導入されたものであり
実際には無視できる。
これを無視すると、
ij (xT u ij ) 2

i1
j 1
d
ui
x
複合類似度法は部分空間法の一種
となり、部分空間法によって
求まる類似度と酷似した形式
が得られる。異なる点は、個々
の内積に対して重みij / i1
が掛けられていることである。
類似度法(混合類似度法)
d
Si ( x )  
j 1
ij T 2
T
2
( x uij )   ( x vk )
i1
T
x x
本の木に対する残差
違いの部分にパ
ターンがあるか否
かを強調する。
例「本」か「木」か
混合類似度
本の木に対する残差
v i は、類似クラスの平均パターン μ k

を i の部分空間
に射影した際の残差ベクトルを長さ1に正規化したベクトル。
d
v  μ k   μ uijuij
'
i
vi 
j 1
v
'
i
|| vi ' ||
T
k
μk
vi
レポート,時間内に提出
• 部分空間法において,次の二つは等しい
ことを示せ.
2
– 射影成分の大きさ || Pi x || を最大化するクラ
スに分類する問題
2
– 残差 || x  Pi x || を最小化するクラスに分類
する問題