わかりやすいパターン認識

わかりやすいパターン認識
第４章識別部の設計
４．２パラメータの推定
発表日：平成１５年５月２日
担当者：大城亜里沙
パラメータの推定
• 確率密度関数のパラメータを推定
  {x1, x2 ,....,xn}
ー学習パターンの集
p(  ; )
ー推定すべき確率密
ーはパラメータベ
合
度関数＝尤度関数

クトルを表す。
パターン集合χが得られる確率 p(  ;は
)
n
p (  ; )   p ( x k ; )
（４・１８）
k 1
これが最大となる
を求める。
（最尤法）

最尤法
ー ˆ は確率密度関数を最大にする 
式（４．１８）の最尤法は
ˆ)
{
p
(

;

)

p
(

;

であり、これを求めるには
max



p
(

;

)

p (  ; )  0
あるいは対数をとって


log p( xk ; )  0

k 1 
n
最尤法の適用例（１）
• パターンが正規分布をする場
合
 ーパラメータは平均ベクトルｍと共
分散行列Σ
ー推定値
1 n
ˆ   xk
m
n k 1
^
n
1
t
ˆ
ˆ
( xk  m)(xk  m)
 n 
k 1
最尤法の適用例（２）
• 確率密度関数が多峰性の場
i ー重み係数
合
r

混合分布
これを求める
p( x; ) 
 i pi ( x; i )
ためにはパラメータ
と重みを推定する必要がある。
i 1
すなわち推定すべきパラメータベクトルは


である。
 t  (1t ,･･･, rt , 1 ,･･･,  r )
教師付き学習と教師なし学習
• 教師付き学
習
ー学習パ
ターンにクラスのラベルが付いている
• 教師なし学
習
ターンにクラスのラベルが付いていない
ークラス数Cは既知
ー混合分布のパラメータ推定と同じ問題
山登り法によるパラメータの推定
ー学習パ

Download Report