卒論進歩報告

卒論進歩報告
理学部数理情報科学科
荒木貴光
報告概要
• ＩＣＡの各Algorithmの概説
classical Infomax (batch , online )
Extended Infomax Algorithm (batch)
• 画像解析による上記の各Ａｌｇｏｒｉｔｈｍ(プロ
グラム）のテスト
• 本題：ＩＣＡを顔画像に使い基底画像を求め
た。
ICA概説
仮
定
P(s(1), s(2),..., s(m))  P(s(1))P(s (2))  P(s(m))
互いに統計的に独立
未知
s1 (t )
s2 (t )
sm (t )
x1(t)
x2 (t )
xm (t )
未知=> A 線形に混合
実
際
W 統計的に独立に分解
A, W  m  
 s(1) 


S   
 s(m) 


s(i), x ( i ), y ( i )  n
 x(1) 


   X  AS
 x(m) 


y 1 (t )
y 2 (t )
y m (t )
時系列データ(音声）画像など
 y(1) 


    Y W X
 y(m) 


このＷを以下のアルゴ
リズムで最適化する
今回使用したＩＣＡ
Algorithm（更新則）の違い (batch)
W
1
 初期値
Classical Infomax Algorithm
(Tony Bell,Terry Sejnowski)
k=1
k<100
Y
exist
 (Y )   tanh(Y )
(e  y  e )
 y
(e  e  )
W X



W  I  E( (Y )Y(Y )Y)/n W
W
1
W
 W
Extended Infomax Algorithm
(Lee,Girolami,Sejnowski)
 ( y  tanh( y ))
Y の分布が Sub-Gaussian
Super-Gaussian  (Y )
Super-Gaussian
 (y  tanh( y ))
Sub-Gaussian
画像データについて
１９５２３８１３２９９９１２３１
１
９５７
２
２
３８１３
２９９９
１２３１
データポイント
ＩＣＡ～画像実験
s(i) , x ( i ), y ( i )  10000
Extended Infomax（
Infomax（Tony
Bell and
Terry
Terry
Sejno
Infomax（by
Tony
Bell
andSejno
Terry
 y(1) 
wski
）batch ）を使った結果
algorithmを使った結果


Sejnowski
 s(1) 


S   
 s(4) 


 x(1) 


   X  AS
 x(4) 


x(1)
s(1)
ＡでＳを重ね
合わせ
s(2)
s(3)
s(4)
    Y W X
 y(4) 


x(2)
1 2 1 1


 1 1 1 1  x(3)
A 
2 1 1 1


1 1 1 2


x(4)
y(1)
WでXを分
解
y(2)
y(3)
y(4)
online classical Infomax Algorithm
batch classical Infomax Algorithm
Extended Infomax Algorithm
数値で解析結果を見る
Online
S
X
Y
基底画像による顔画像の表現
• 顔の識別、特徴抽出など顔の認識におい
て顔画像をどのように記述するかは大変
重要な問題である
本研究では、顔画像を基底(基本パター
ン）画像の一次結合(重ね合わせ）として表
現する。
顔をパラメーター空間内の点として表す
＝
 a2
a1
( a1 , a 2 ,..., a n )  

n
 an
どのようにして有効な基底
(基本パターン）を求めるか
イメージ図
顔のパラメーター空間
昔からの手法
ＰＣＡ(主成分分析）
an
ai
最近では
ＩＣＡ(独立成分分析）
基底は座標軸のようなものと考えられる
Extended
Infomax
ＩＣＡによる顔画像基底
Online
Classical
何らかの基本パターン(基底）
Infomax
の重ねであると想定する
ＡでＳを重
ね合わせ

A<=未知
前回の
卒論の
プログラム
？
その基本パターン
(基底)
Wで分解

空間的局所性



基底を数値で見る
ＰＣＡによる顔画像基底
感想と課題
• Ａｌｇｏｒｉｔｈｍ
online よりbatchの方が精度が高いみたい。
今回Extended Infomax はデータによっては古い
Algorithmよりはるかに高い性能をしめした。
その理由を調べる（理解する）。
・ＩＣＡによる解析がうまくいったのかどうか判断する
ために、標本相関係数を求めるようにする。
・ＩＣＡ基底の数をＰＣＡを使うなどして調整する。
基底の係数を特徴ベクトルとして、ＳＶＭなどパ
ターン認識アルゴリズムに使って表情認識を行う。
・写真撮影
参考資料
MATLAB Code
• Infomax Algorithm by Tony Bell (Interval Research) and Terry
Sejnowski
http://www.cnl.salk.edu./~tewon/ica_cnl.html
・PCA-code
http://inc.ucsd.edu/~marni
・信号処理～第五部独立成分解析～（岐阜大学の横田先生が作成
し、学部，大学院の講義で使用している教科書）
http://www.ykt.info.gifu-u.ac.jp/dsp/index.html
・感性と情報処理 ―情報科学の新しい可能性―
一松
信・村岡洋一監修／日本学際会議編
ISBNコード
ISBN4-320-02359-5
• http://www.ipsj.or.jp/members/SIGNotes/Jpn/10/1990/046/article007.
html

Download Report