圧縮センシングの復元ダイナミックス解析

圧縮センシングの復元ダイナミックス解析
北大院情報科学
井上純一
Reconstruction Dynamics of Compressed Sensing
Graduate School of Information Science and Technology, Hokkaido University
Jun-ichi Inoue
線形パーセプトロン (LP) と元信号のスパース率が ρ である圧縮センシング (CS) との構造的類
似性に着目し, 対数尤度と Lr -ノルムから構成されるエネルギー関数 (両者比を β) を持つ系に関
し, 学習係数を η と選んだ勾配学習に基づく「絶対零度ダイナミックス」を考える. そこで, CS の
MAP 推定の処理過程を, 有限個のマクロ変数 (信号ノルム: Q, 重なり: R) の離散時間発展方程
式を介して議論する. 具体的には, サンプリング数 αN を「例題数」, 信号ベクトルを「シナプス
加重」とみなすことで, CS の復元過程は「例からの学習」とみなせる. 講演では特に r = 2 の場
合を扱うが, 勾配学習として陽に離散時間ダイナミックスを与えると, その定常解は疑似逆行列で
表される. これは LP の ‘AdaLine 学習’ に対応する結果である. また, 勾配学習法の性能評価とし
て, 特定の測定行列, 元信号に依らない復元過程の「平均的振る舞い」を平均自乗誤差の発展式で
記述する. このとき, 測定行列要素からなる相関行列の固有値分布 φ(λ) が必要となるが, 最も簡
単な測定行列アンサンブルに対し, φ(λ), および, 平均自乗誤差 δt の時間発展は N → ∞ 極限で
∫
λmax
δt = ρ(1 − α) + ρα
dλ φ(λ){1 − η(λ + β)}2(t+1)
λmin
√
√
√
(λmax − λ)(λ − λmin )
φ(λ) =
, λmin = (1 − α)2 , λmax = (1 + α)2
2παλ
で与えられる. 講演では, ここから得られる図 1 に示すような知見のいくつかを紹介したい.
0.6
0.6
0.5
0.3
0.2
0.1
0
Q
0.3
α=0.2
0.4
δt
0.4
α=0.8
α=0.5
α=0.8
0.5
0
20
40
60
80
100
t
0.2
0.1
0
0.05
0.1
0.15
0.2
0.25
R
0.3
0.35
0.4
0.45
図 1 φ(λ) が |1 − η(λ + β)| > 1 を有限頻度で満たす
√ 7 λ を含むと, マクロ変数の軌道 Q-R は不安定化
し, 例えば β = η = 0.5 のとき, 臨界点 αdiv = (
− 1)2 ∼ 0.758 で平均自乗誤差 δt は発散する.
2

Download Report