確率・統計Ⅰ

確率・統計Ⅰ
第10回 i.i.d.の和と大数の法則
ここです!
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
確率論とは
確率変数、確率分布
確率変数の独立性 / 確率変数の平均
確率変数の平均(続き)、確率変数の分散
確率変数の共分散、チェビシェフの不等式
ベルヌイ試行と二項分布
二項分布(続き)、幾何分布など
二項分布の近似、ポアソン分布、正規分布
正規分布とその性質
i.i.d.の和と大数の法則
中心極限定理
統計学の基礎1(母集団と標本、確率論との関係)
統計学の基礎2(正規分布を用いた推定・検定)
i.i.d.の和と大数の法則
1. i.i.d.の和
2.大数の法則
i.i.d.とその和
互いに独立で、同じ分布をもつ確率
変数の列を i.i.d. と呼ぶ。
X1, X2, …, Xn を i.i.d. とし、
どんな分布でもよい
(連続分布でもよい)
X = X1 + X2 + … + Xn とおく。
[ 各 Xi が確率 p で値1, 確率 q =1-p で値0をと
るときの X の分布が二項分布である。]
i.i.d.の和として見た
二項分布の平均と分散
i.i.d.の和が二項分布になるのは、Xi の分布が
Xi
確率
0
q
1
p
という特別の場合。 このとき、
一致(結果的に)
E( X i )  1 p  0  q  p
V ( X i )  (1  p)  p  (0  p)  q  pq
2
だから、和 X については…:
2
i.i.d.の和として見た
二項分布の平均と分散
E (X )  E( X1 )  E( X 2 )   E( X n )
 p  p  p
 np
V (X )  V ( X1 )  V ( X 2 )   V ( X n )
 pq  pq    pq
 npq
i.i.d.の和の平均と分散
一般には、 E(Xi) =μ, V(Xi) =σ2 とするとき、
E ( X )  n
V ( X )  n
2
i.i.d.の和の平均と分散のまとめ
X = X1 +…+ Xn
E(X) = nμ
V(X) = nσ2
E(Xi) =μ, V(Xi) =σ2
特に
二項分布
q
p
0
X = X1 +…+ Xn
1
E(Xi) = p, V(Xi) = pq
E(X)=np, V(X)=npq
i.i.d.の和と大数の法則
1. i.i.d.の和
2.大数の法則
大数の法則
問題: n→∞のとき X はどうなるか?
たとえば X が二項分布の場合
0.45
0.4
0.35
n →∞
0.3
平均 np → ∞ (どんどん右へ)
0.25
0.2
0.15
分散 npq → ∞ (広がっていく)
0.1
0.05
0
0
5
10
一般の場合も平均 nμ, 分散 nσ2 だから同様に発散。
では n で割って X / n を考えたら?
15
20
X / n の平均と分散
X = X / n = (X1+…+Xn) / n
とおくとき、
(ただし、X1, …, Xn はi.i.d.で、E(Xi)=μ, V(Xi)=σ2 )
1
1
E ( X )   E ( X )  n  
n
n
1
1

2
V ( X )  2 V ( X )  2 n 
n
n
n
2
大数の法則
n→∞のとき
E(X )   は変化なし
2
V (X )   / n  0
これは次のことを意味する: (「大数の法則」)
X の分布が、μ= E(Xi) に“近づく”
大数の法則
●特に X が二項分布の場合 X は成功度数だから
X = X / n の意味は 「相対度数」
(確率 p の事象が起きた回数の割合)
だから、「大数の法則」は次のことを意味する:
一回の成功確率が p の試行を繰り返して
いくと、成功の相対度数が p に “近づく”
大数の法則(例)
p=0.5 n=50 の二項分布の相対度数 X のグラフ
P(X/n = r’)
0.1
0.08
0.06
0.04
0.02
0.2
0.4
0.6
0.8
1
大数の法則(例)
p=0.5 n=200 の二項分布の相対度数 X のグラフ
P(X/n = r’)
0.05
0.04
0.03
0.02
0.01
0.2
0.4
0.6
0.8
1
大数の法則(例)
p=0.5 n=2000 の二項分布の相対度数 X のグラフ
P(X/n = r’)
0.0175
0.015
0.0125
0.01
0.0075
0.005
0.0025
0.2
0.4
0.6
0.8
1
正確な大数の法則
厳密な数学の定理としては、
大数の弱法則
(ベルヌーイの大数の法則)
大数の強法則
の2つがある。
大数の弱法則
X1, …, Xn を i.i.d. とし、 X = X1 + … + Xn ,
X = X / n = (X1 + … + Xn) / n とおくと、
次の事実が成り立つ:
任意のε>0 に対して


lim P X      1
n 
ここで μ=E(Xi) .
大数の強法則
X1, …, Xn を i.i.d. とし、 X = X1 + … + Xn ,
X = X / n = (X1 + … + Xn) / n とおくと、
次の事実が成り立つ:


P lim X    1
n 
ここで μ=E(Xi) .
また、V(Xi) は有限とする。
大数の強法則(例)
p=0.5 の二項分布の相対度数 X の
n=102~104 における実験値
0.575
0.55
0.525
0.5
0.475
0.45
0.425
2.25
2.5
2.75
3
3.25
3.5
3.75
4
対数目盛り
103=1000
104=10000
大数の強法則(例)
p=0.5 の二項分布の相対度数 X の
n=102~105 における実験値
0.575
0.55
0.525
0.5
0.475
0.45
0.425
対数目盛り
2.5
3
3.5
103=1000
4
4.5
104=10000
5
105=100000
メニューに戻る
メニューへ