天気予報＝天気の情報を出力する情報源
!"#$%&'(
)*+'Y
,-#.#-#-#.#.#./////
012)*X ,-#.#-#-#-#.#-/////
#012)*X345)*+'Y6789:9-7.;<=2>?
@ABCDEFG/
実際の天気＝晴れ、雨 H#@A2@I&'J
天気予報＝晴れ、雨 ２つは独立した情報源
+'2KLCM(NO>P/
QRS#T#PX,Y(-,-)U PX,Y(.,.)
天気予報（Y）の情報源はどのくらいあっているのか
X!雨 Y!雨
的中率＝天気予報と実際の天気が晴れと晴れの確率+天気予報と実際の天気が雨と雨の確率
的中率は上の公式で求められる
!.1#QRS
+'W 的中率100％
P(x,V)
0
1
X
+'2
+'Y
P(x)
-
.
-
0.8
0
0.8
.
0
0.2
0.2
P(x,V)
"的中率
1
P(y)
0.8 0.2
+'X 晴れと予報したとき雨は5％、
P(x,V)
0
1
X
P(y)
+'Y
P(x)
-
.
-
0.45
0.35
0.8
.
0.05
0.15
0.2
0.5
0.5
的中率0％
0
1
X
P(x)
-
.
-
0
0.8
0.8
.
0.2
0
0.2
0.2
0.8
P(y)
+'Y
0
1
X
P(y)
0
雨と予報したとき、雨が4％
P(x,V)
0.6
+'Y
+'Y
P(x)
-
.
-
0.64
0.16
0.8
.
0.16
0.04
0.2
0.8
0.2
0.68
H#Z[\S]^_`QRSCabc4/
この表の名前!講義の最初でやったらしい
!.1#QRS
+'W:
+'@:
+'X:
+'Y:
QRSTW
d\_eTf
QRSTf
d\_eTf
完璧
QRSTf.! d\_eTg
-2+'2hi6jfk-#H#d\_el
.2+m2hi6Xfk.#H#d\_en 8:2が7:3になっちゃうので
QRSTf.!od\_eTdp
+'2qr#
T#+'CsP>tud\_evlwFGxu#
y#QRS
!.@#z{|}~•€•‚ƒ
+„C…†>h‡ˆGd\_e2‰ŠrC‹?GŒ
予報1,2,3,4,
z{|}~•€•‚ƒ
H(X|Y)=PY(-)H(X|y=-)+ PY(.)H(X|y=.)
晴れの確率×晴れのエントロピー
x2>?‡67-;tGP6.B2+'2•i2)*2\SFŽ
••7z{|}\SC‹?G/
P(X|Y)=P(x,y)/P(y)
+'W
P(X|Y)
0
1
X
+'@
+'Y
-
.
p(y)の数字で割ってあげる
.
P(X|Y)
0
1
X
.
+'X
+'Y
-
.
P(X|Y)
0
1
X
.
+'Y
+'Y
-
.
P(X|Y)
0
1
X
.
+'Y
-
.
!.@#z{|}~•€•‚ƒ
z{|}~•€•‚ƒ
H(X|Y)=PY(-)H(X|y=-)+ PY(.)H(X|y=.)
+'W
P(X|Y)
+'@
+'Y
- .
0 - W f
1
X . f W
P(X|Y)
+'X
+'Y
- .
0 - f W
!
1
.
W
f
X
P(X|Y)
0 1
X .
+'Y
+'Y
- .
0.9
0.7
0.1
0.3
P(X|Y)
0 1
X .
+'Y
- .
0.8
0.8
0.2
0.2
H#z{|}~•€•‚ƒC‹?4/
+'W,#H(X|Y)T0.8H(1)+0.2H (0)=0bit
+'@,#H(X|Y)T0.8H(0)+0.2H (1)=0bit ←0ビット：曖昧さが100％消えたってこと
+'X,#H(X|Y)T0.5H(0.9)+0.5H (0.7)=0.68bit
+'Y,#H(X|Y)T0.8H(0.8)+0.2H (0.8)=0.72bit
012)*2~•€•‚ƒH(X)TH(0.8)T0.72‘’“
!.X#$%&'(
012)*2~•€•‚ƒ#H#X2d\_e
H;XB#T#-PX(-)log2 -PX(-)-PX(.)log2 -PX(.)
z{|}~•€•‚ƒ#H#YC…†”•ˆGX2d\_e
H(X|Y)#T#PY(-)H(X|y=-)+ PY(.)H(X|y=.) yを得たことで、もとの問題が複雑
になったか簡単になったか。(どれ
$%&'(#H#YvX‡AP”–—”˜9G&'(
I;X™YBTH;XBƒH(X|Y)
くらいの曖昧さをふくんでいるの
か)
曖昧さを引くと、真実の情報をどれくらい教えてくれる
H#$%&'(C‹?4/
のか
012)*2~•€•‚ƒH(X)TH(0.8)T0.72bit
+'W,#I(X™Y)T 0.72 - 0 = 0.72bit
Fš”C–—G
+'@,#I(X™Y)T 0.72 - 0 = 0.72bit
Fš”C–—G
+'X,#I(X™Y)T 0.72 - 0.68 = 0.04bit#
wO›œ–—G
+'Y,#I(X™Y)T 0.72 - 0.72 = 0bit
••–—ŽP
!.Y#Z[~•€•‚ƒ
Z[~•€•‚ƒ#H#XuYCžu?>Ÿ
2&'(2‰Šr
H;X,YBT# -PX,Y(-,-)log2 PX,Y(-,-)
#-PX,Y(-,.)log2 PX,Y(-,.)
##-PX,Y(.,-)log2 PX,Y(.,-)
###-PX,Y(.,.)log2 PX,Y(.,.)
H#Z[~•€•‚ƒC‹?4/
+'W,#H(X,Y)T 0.72bit pNŽO
+'@,#H(X,Y)T 0.72bit pNŽO
+'X,#H(X,Y)T 1.68bit# 012)*u¡¢£Ž&'v¤¥
+'Y,#H(X,Y)T 1.44bit X4¦•§¦2tG•¢£&'v¤¥
© Copyright 2024 ExpyDoc
