独立成分分析(ICA)

独立成分分析
(ICA:Independent Component
Analysis )
独立成分分析(ICA)とは

いくつかの信号が混信した状態で受信された
観測データか ら未知の信号源の信号を復元
する手法

x:観測データ A:混合行列 s:信号源
x = As
ICAにおける制約
1. 信号源の信号が互いに統計的に「独立」で
ある事
2. 信号源の信号が正規分布に従っていない
事
「独立」とは

片方の変数がどのような値をとっても、もう片
方の変数の分布は変わらないような状態

相関が0な状態


無相関とは、片方の変数がどのような値をとって
も、もう一方の目の平均値が常に同じであるとい
うことを指しているに過ぎない。
独立性は無相関性よりもずっと強い性質
ICAの種類

Infomax

FastICA

JADE
FastICAの流れ

前処理
中心化
 (標準化)
 白色化


非ガウス性の最大化
中心化

平均値が0になるよう各値から平均値を引く事
標準化

単位や規模、数量レベルが異なる時、同じレ
ベルで比較するために平均と分散を揃える。

(個々のデータ-平均値)/標準偏差
白色化

分散行列の固有値スペクトルを平坦にする

観測信号を線形に変換し,成分達が無相関
で分散が1(共分散行列が単位行列Iと等し
い)

特異値分解や主成分分析(PCA)を使用
特異値分解

行列に対する行列分解
y = Ax
U:左特異ベクトル D:特異値の対角行列 VT:右特異ベクトル
(直交変換)
(増幅率)
(直交変換)
A = UDVT

無相関で分散を1にする事が可能
UUT = VVT = I
白色化によって

白色化では独立成分を直交変換したものし
か得られない

混合行列の探索を直交行列の空間内に絞る
事ができる
FastICAの流れ

前処理
中心化
 (標準化)
 白色化


非ガウス性の最大化
非ガウス性

独立性を測る 手法の一つ

ネゲントロピーによって非ガウス性を測る事
が可能
ネゲントロピー

エントロピーを正規化したもの
J(y) = H(ygauss) ー H(y)
ネゲントロピーの最大化

ネゲントロピーの近似値:w
白色化済信号:z
Δw ∝ γE{zg(wTz)}
ICAの曖昧性

独立成分の分散(大きさ)を決定する事はで
きない

独立成分の順序を決める事はできない