- SlideBoom

パターン認識勉強会
2.3 Gaussian Distribution
ガウス分布とは

以下のような分布です。
知りたいこと

分布のかたち





各種特徴量
周辺分布
条件付き分布
ベイズの定理
ベイズ推測
方針

指数部の中に着目
Xの二次式!

1 が分布の形状を決定!
固有値、固有ベクトルで振る舞いが
わかるんじゃないか…
武器1 –変数変換
対称行列の固有ベクトルは直交する
固有ベクトルを基底に取った座標軸で考えてみたらどうか
武器2 – 変数変換(2)
新しい座標系での分布は以下のようになる。
独立な分布の積!
1次元の時の知識が使
える!
各種特徴量
実際に積分してみると、予想通り
ただし
条件付き分布・周辺分布
武器3 – 平方完成
ガウス分布であることが分かっているなら…
が分かれば計算に必要な情報は揃う!
この関係を用いると、二次と一次の項だけ
から分布のパラメータを逆算できる!
条件付き分布 – 準備

変数とパラメータを分割する
条件付き分布
二次式の中を展開してみると…
条件付き分布(2)
二次項
一次項
周辺分布
まずはX_bを積分消去したいので、X_bについて平方完成します。
X_aの関数であるこ
とに注意!
周辺分布(2)
これでX_bがいなくなりました。
後は残った項を平方完成すればOK
周辺分布(3)
さらに!
条件付き分布・周辺分布まとめ
ガウスの定理
事前分布
モデル
の場合に
事後分布
線形な演算だけで事前分布を更新していくことができる!
(線形ガウスモデルの例 ref Chapter. 8)
最尤推定
尤度関数
微分して最大化
不偏推定量じゃない!
ベイズ推論
共役な事前分布を
 平均未知
 分散未知
 両方未知
の場合に考えてみる。
※面倒くさいので結果だけ示します。
平均未知の場合
分散未知の場合
両方未知の場合
まとめ

ガウス分布の基本的な扱い方だけ抑えておいて、後か
ら必要に応じて細かいところを勉強すればいいのではな
いでしょうか。

田村さん、後はよろしくお願いいたします。