パターン認識と機械学習

パターン認識と機械学習
1.2.3 ベイズ確率
松本良太
ベイズ確率とは?
• 定義
ランダムな事象が生起する頻度としての確率に加えて、ある命
題のもっともらしさ、あるいはその根拠になる信頼の度合いを
表す数値としての確率を含めた広義の確率のこと
ベイズ確率とは?
例:南極の氷は100年後に消えるか という命題に対して
・頻度確率
繰り返し観測ができるような事象ではないのでうまくいかない
・ベイズ確率
今現在の南極の氷の溶ける速度についての仮説の信頼の度
合いを定める
→新たな証拠があればそれに照らして修正していく
→最適な値が出る
ベイズ確率とは?
• 弱点
・仮説の選び方が悪いと高い確率で悪い結果が出る
・仮説の選び方によって結果が主観的になる
ベイズの定理
P(B) = 事象Bが発生する確率(事前確率, prior
probability)
P(B|A) = 事象Aが起きた後での、事象Bの確率(事後確
率, posterior probability)
とする。
P(A) > 0 ならば、
P(B|A)=P(A|B) * P(B) / P(A)
ベイズの定理
• ベイズ確率の考え方では、A を定数とする必要はな
く、ある分布に従う確率変数としてよい。この考え方
からすると、上のベイズの定理の式は、
– 主観確率分布P(A) に、係数P(X|A) / P(X)をかけることに
より、証拠X を加味して、より客観性の高い確率分布
P(A|X) を求める
• と解釈できることがわかる。このように確率分布をよ
り客観的にする方法(ベイズ改訂)を利用して、A を
推定する方法が、ベイズ推定である。さらに新たな
証拠が加えられれば、事後確率を新たに事前確率
として扱い、ベイズ改訂を繰り返すこともできる(さら
に高い客観性が期待される)。
ベイズの定理
• 先ほどの氷の話に当てはめる
P(A)を今現在の仮説
P(B)を新たに判明した証拠とすると、
P(B|A)=P(A|B) * P(B) / P(A)
P(B|A)はP(B)と照らしたときのP(A)の信頼の度合いを
表す。
この結果に応じてP(A)を書き換え、新たなP(B)が見つ
かれば定理に当てはめていく