「わかりやすいパターン認識」
第４章：識別部の設計
４．３：識別関数の設計
〔1〕線形識別関数の設計
識別関数
• 特徴ベクトルｘの関数
• 特徴ベクトルの属するクラスを判定する識別規
則を記述する
• 線形識別関数と非線形識別関数
２クラスの識別問題の場合
 g ( x)  0　 x  1

 g ( x)  0　 x  2
線形識別関数
g ( x)  t x  w0  w x
t
線形判別法（６章参照）
超平面の決定
・Ｄ次元空間からの１次元空間への射影
・１次元空間上で決定境界決定
同
形
g ( x)  At x  a0
※Aは（ｄ、１）行列､超平面の法線ベクトル
評価関数J（１）
・Wの導出
誤差評価あるいは期待損失評価
→２章＆８章参照
特徴空間の変換
→６章参照
def
2 ~2
~
~
~
J  J (m1 , m2 ,  1 ,  2 ) ※２クラスの場合 i=（１，２）
~   の平均
m
i
i
~ 2   の分散

i
i
評価関数J（２）
1
~
mi 
ni
 g ( x)
x i
  t mi   0
1
2
~
i 
ni
x i
t
(
x

m
)(
x

m
)


i
i
x i
   i 
t
i  の共分散行列
~ )2
(
g
(
x
)

m

i
1
 
ni
t
mi  iの平均ベクトル
評価関数J（３）
Ｊを最大にするωとω０の導出
~
~
~2
~2
m

m




i
i
i
i
 mi ,
 1,
 2 i  ,
0

 0

0
評価関数J（４）
Jをωとω０で偏微分しそれを０と置く
~
~
J
J ~12
J ~22
J m

J

m
1
2
 ~2
 ~2
 ~
 ~
  1 
 2 
m1 
m2 
 J
J
 2 ~ 2 1  ~ 2
 2
  1
 0
J
J
J
 ~  ~
 0 m1 m2
 0
→ω０の導出

2

 J

J
   ~ m1  ~ m2 
m2

 m1

代入
評価関数J（５）
1 J

~
2 m
1
1
 J

J

~ 2 1  
~ 2 2 
 
 ( m2  m1 )
1
2


1
 ( s 1  (1  s )  2 ) ( m1  m2 )
2
~
J /  1
※s 
~ 2  J / 
~2
J / 
1
2
def
評価関数Jの例（１）
2
~
~
( m1  m2 )
J  ~2
2
~
k k 
def
1
1
2
2
・ｋ１、ｋ２は任意の正定数
~ m
~ )2
J
(m
1
2

k
i
~i2
( k1~12  k2~22 ) 2
これよりｓを導出するとωは以下の式になる
  (k1 1 k2 2 ) (m1  m2 )
1
→線形判別法（６章参照）
評価関数Jの例（２）
このときω0は不定となる
→別の方法でω0を求める
（１）変換後のクラス平均の中点を境界とする方法
~ m
~
m
2
0  1
2
（２）変換後の各クラスごとの分散で内分する方法
2 ~
2 ~
~
~
 2 m1   1 m2
0 
~2  
~2

1
2
評価関数Jの例（２）
このときω0は不定となる
→別の方法でω0を求める
（１）変換後の各クラスごとの標準偏差で内分する方法
~ m
~ 
~ m
~

0  2 ~1 ~1 2
1   2
（２）事前確立も考慮して内分する方法
~ 2m
~  P( )
~ 2m
~
P( 2 )
2
1
1
1
2
0 
2
2
~
~
P(1 ) 1  P( 2 ) 2
※ωiの事前確立をP(ωi）=kiとする。