パターン認識勉強会 2.3 Gaussian Distribution ガウス分布とは 以下のような分布です。 知りたいこと 分布のかたち 各種特徴量 周辺分布 条件付き分布 ベイズの定理 ベイズ推測 方針 指数部の中に着目 Xの二次式! 1 が分布の形状を決定! 固有値、固有ベクトルで振る舞いが わかるんじゃないか… 武器1 –変数変換 対称行列の固有ベクトルは直交する 固有ベクトルを基底に取った座標軸で考えてみたらどうか 武器2 – 変数変換(2) 新しい座標系での分布は以下のようになる。 独立な分布の積! 1次元の時の知識が使 える! 各種特徴量 実際に積分してみると、予想通り ただし 条件付き分布・周辺分布 武器3 – 平方完成 ガウス分布であることが分かっているなら… が分かれば計算に必要な情報は揃う! この関係を用いると、二次と一次の項だけ から分布のパラメータを逆算できる! 条件付き分布 – 準備 変数とパラメータを分割する 条件付き分布 二次式の中を展開してみると… 条件付き分布(2) 二次項 一次項 周辺分布 まずはX_bを積分消去したいので、X_bについて平方完成します。 X_aの関数であるこ とに注意! 周辺分布(2) これでX_bがいなくなりました。 後は残った項を平方完成すればOK 周辺分布(3) さらに! 条件付き分布・周辺分布まとめ ガウスの定理 事前分布 モデル の場合に 事後分布 線形な演算だけで事前分布を更新していくことができる! (線形ガウスモデルの例 ref Chapter. 8) 最尤推定 尤度関数 微分して最大化 不偏推定量じゃない! ベイズ推論 共役な事前分布を 平均未知 分散未知 両方未知 の場合に考えてみる。 ※面倒くさいので結果だけ示します。 平均未知の場合 分散未知の場合 両方未知の場合 まとめ ガウス分布の基本的な扱い方だけ抑えておいて、後か ら必要に応じて細かいところを勉強すればいいのではな いでしょうか。 田村さん、後はよろしくお願いいたします。
© Copyright 2024 ExpyDoc