スライド

平成 26 年度経済統計分析入門
.
第 11 回「母平均・母分散の点推定」
原尚幸
.
新潟大・経済
http://www.econ.niigata-u.ac.jp/˜hara/G-stat/
[email protected]
H. Hara (Niigata U.)
母平均・母分散の点推定
Dec 10, 2014
1 / 23
母集団分布の推定
母集団：調査対象の全体
X1 , X2 , . . . , Xn , . . . , XP
無作為標本：母集団から無作為抽出した部分集合
X1 , X2 , . . . , Xn
n < P : Xn+1 , . . . , XP の情報がない
統計的推定
母集団 X1 , X2 , . . . , Xn , . . . , XP の分布を無作為標本
X1 , X2 , . . . , Xn の情報を用いて推定すること
H. Hara (Niigata U.)
母平均・母分散の点推定
Dec 10, 2014
2 / 23
正規母集団の平均・分散の推定
母集団の分布が正規分布 N (µ, σ 2 ) であると仮定
多くのデータではこの仮定は妥当であると考えられて
いる
正規分布 N (µ, σ 2 ) は平均 µ と分散 σ 2 が定まれば
ひとつ定まる
その平均 µ, 分散 σ 2 の値がわからない
標本から平均 µ と分散 σ 2 に関する情報を抽出し
たい
H. Hara (Niigata U.)
母平均・母分散の点推定
Dec 10, 2014
3 / 23
正規母集団の推定
母平均 µ, 母分散 σ 2 はそれぞれ
P
1∑
µ=
Xi ,
P i=1
P
1∑
σ =
(Xi − µ)2
P i=1
2
無作為標本 X1 , X2 , . . . , Xn , n < P
Xn+1 , . . . , XP の情報がないので , 正確な µ, σ 2 は
わからない
母平均 µ, 母分散 σ 2 を「真の平均」, 「真の分散」
ともいう
H. Hara (Niigata U.)
母平均・母分散の点推定
Dec 10, 2014
4 / 23
正規母集団の点推定
点推定
無作為標本 X1 , X2 , . . . , Xn の情報を用いて, µ,
. σ 2 の値
を点で推定することを点推定という
X1 , X2 , . . . , Xn の情報
⇒ X1 , X2 , . . . , Xn の関数
⇒ 統計量
µ
ˆ(X1 , . . . , Xn ),
.
σ
ˆ 2 (X1 , . . . , Xn )
推定に用いる統計量を推定量という
推定量は ˆを付けて µ
ˆ, σ
ˆ 2 などとあらわす
H. Hara (Niigata U.)
母平均・母分散の点推定
Dec 10, 2014
5 / 23
推定量と推定値
無作為標本 X1 , X2 , . . . , Xn は確率変数
実際に観測されたデータはこれらの確率変数の
実現値
確率変数は大文字 X1 , X2 , . . . , Xn で ,
実現値は小文字 x1 , . . . , xn で書く習慣がある
観測されたデータ x1 , . . . , xn から計算した推定量
の値
µ
ˆ(x1 , . . . , xn ), σˆ2 (x1 , . . . , xn )
を推定値と言う
H. Hara (Niigata U.)
母平均・母分散の点推定
Dec 10, 2014
6 / 23
正規母集団の点推定
点推定の目的
無作為標本 X1 , X2 , . . . , Xn の情報だけを用いて µ, σ 2
をできるだけ精度よく推定したい
.
精度のよい点推定とは
真の µ, σ 2 にできるだけ近い値で推定すること
⇒ 高い確率で µ, σ 2 と近い値をとるような推定
.
どのような推定が精度よい推定なのか？
H. Hara (Niigata U.)
母平均・母分散の点推定
Dec 10, 2014
7 / 23
母平均の推定
X1 , X2 , . . . , Xn の関数で
P
1∑
µ=
Xi ,
P i=1
を推定することを考える
第一感としては
∑
¯= 1
µ
ˆ=X
Xi
n i=1
n
で推定してはどうか？
H. Hara (Niigata U.)
母平均・母分散の点推定
Dec 10, 2014
8 / 23
標本平均
標本平均
標本 X1 , X2 , . . . , Xn の平均
∑
¯= 1
µ
ˆ=X
Xi
n i=1
n
.
を標本平均と言う
標本平均は直感的には母平均のよい推定量に
なっていそうだ
その良さを客観的に評価できないか？
H. Hara (Niigata U.)
母平均・母分散の点推定
Dec 10, 2014
9 / 23
標本平均の性質
問題 (復習)
標本 X1 , X2 , . . . , Xn は無作為なので
iid
X1 , X2 , . . . , Xn ∼ N (µ, σ 2 )
.
¯ の分布は？
そのとき標本平均 X
答え
(
¯ ∼N
X
σ2
µ,
n
)
.
H. Hara (Niigata U.)
母平均・母分散の点推定
Dec 10, 2014
10 / 23
標本平均の性質
問題 (復習)
標本 X1 , X2 , . . . , Xn は無作為なので
iid
X1 , X2 , . . . , Xn ∼ N (µ, σ 2 )
.
¯ の分布は？
そのとき標本平均 X
答え
(
¯ ∼N
X
σ2
µ,
n
)
.
H. Hara (Niigata U.)
母平均・母分散の点推定
Dec 10, 2014
10 / 23
標本平均の性質
¯ の分布
X
(
¯ ∼N
X
σ2
µ,
n
)
¯ =µ
E[X]
¯ の期待値は真の母平均 µ
X
¯ は平均的には µ をとる
X
¯ の分布は正規分布
X
真の母平均 µ の周りに高い確率
で分布
H. Hara (Niigata U.)
母平均・母分散の点推定
µ
Dec 10, 2014
11 / 23
不偏推定量
不偏推定量
母平均の推定量に限らず , 一般に推定量の期待値
が真の値になる性質を推定量の不偏性と言う
不偏性を有する推定量を不偏推定量という
.
推定量の好ましい性質のひとつ
不偏推定量は一意的には定まらず一般には
複数存在する
.
H. Hara (Niigata U.)
母平均・母分散の点推定
Dec 10, 2014
12 / 23
推定量の不偏性
推定量の不偏性は好ましい性質と考えられる
しかし不偏推定量は無数に存在する
そこで無数にある不偏推定量の中から精度のよい
推定量を選ぶことを考える
精度のよい推定量とは
⇒ 高い確率で真の µ と近い値をとる推定量
H. Hara (Niigata U.)
母平均・母分散の点推定
Dec 10, 2014
13 / 23
推定量の分散
不偏推定量：期待値が真の µ
分散が大きい推定量：
真の µ から離れた値を取る確率も大きい
分散が小さい推定量：
真の µ に近い値を高い確率で取る
同じ不偏推定量なら分散が小さい方が好ましい
推定量と言える
µ
H. Hara (Niigata U.)
µ
母平均・母分散の点推定
µ
Dec 10, 2014
14 / 23
最小分散不偏推定量
定理
¯ はすべての µ の不偏推定量の中で
標本平均 X
分散が最小である
.
¯ は最小分散不偏推定量と呼ばれる
X
¯ は無数にある不偏推定量
この定理は標本平均 X
の中で分散最小という意味で最適な推定量である
.
ことを示している
この事実は非常に重要なので覚えておくこと
¯ を用いて推定すればよい
要するに母平均 µ は X
H. Hara (Niigata U.)
母平均・母分散の点推定
Dec 10, 2014
15 / 23
母分散の推定
次に X1 , X2 , . . . , Xn の関数で母分散
P
1∑
σ =
(Xi − µ)2
P i=1
2
を推定することを考える
第一感としては標本分散
1∑
¯ 2
S =
(Xi − X)
n i=1
n
2
で推定してはどうか？
H. Hara (Niigata U.)
母平均・母分散の点推定
Dec 10, 2014
16 / 23
標本分散の性質
標本分散 S 2 の平均は
[ n
]
∑
1
¯ 2 = n − 1 σ2
E[S 2 ] = E
(Xi − X)
n
n
i=1
であることが知られている
したがって標本分散 S 2 は不偏推定量ではない
H. Hara (Niigata U.)
母平均・母分散の点推定
Dec 10, 2014
17 / 23
問題
問題
母分散 σ 2 の不偏推定量をひとつ求めよ
ヒント
[
E[S 2 ] = E
H. Hara (Niigata U.)
1
n
n
∑
]
¯ 2
(Xi − X)
i=1
母平均・母分散の点推定
.
.
n−1 2
=
σ
n
Dec 10, 2014
18 / 23
解答例
ヒントより
[
E
[
]
n
1
· S2 = E
n−1
n−1
n
∑
]
¯ 2 = σ2
(Xi − X)
i=1
したがって
1 ∑
¯ 2
:=
(Xi − X)
n − 1 i=1
n
S02
は σ 2 の不偏推定量
H. Hara (Niigata U.)
母平均・母分散の点推定
Dec 10, 2014
19 / 23
不偏分散
不偏分散
σ 2 の不偏推定量
1 ∑
¯ 2
:=
(Xi − X)
n − 1 i=1
n
S02
.
を不偏分散という
母分散・標本分散・不偏分散の違いは整理して
おくこと
H. Hara (Niigata U.)
母平均・母分散の点推定
Dec 10, 2014
20 / 23
最小分散不偏推定量
定理
不偏分散 S02 はすべての σ 2 の不偏推定量の中で
分散が最小
.
つまり S02 も最小分散不偏推定量
母分散 σ 2 の不偏推定量も無数に存在する
この定理は不偏分散 S02 が無数にある不偏推定量
.
の中で分散最小という意味で最適な推定量である
ことを示している
証明は省略
この事実も非常に重要なので覚えておくこと
H. Hara (Niigata U.)
母平均・母分散の点推定
Dec 10, 2014
21 / 23
不偏以外の推定量
不偏分散 S02 は最小分散不偏推定量
母分散 σ 2 は S02 で推定すればよい
では標本分散
1∑
¯ 2
(Xi − X)
S =
n i=1
n
2
は不偏分散 S02 より劣るのか？
S 2 は不偏性は持たないが , 最尤推定量と言う性質
のよい推定量であることが知られている
σ 2 は S 2 で推定しても構わない
H. Hara (Niigata U.)
母平均・母分散の点推定
Dec 10, 2014
22 / 23
不偏推定量の性質
S02 は母分散 σ 2 の不偏推定量ではあるが ,
v
u
n
√
u 1 ∑
2
t
¯ 2
S0 := S0 =
(Xi − X)
n − 1 i=1
は母標準偏差 σ の不偏推定量とはならない
¯ に対し X
¯ 2 も µ2 の不偏推定量では
標本平均 X
ない
H. Hara (Niigata U.)
母平均・母分散の点推定
Dec 10, 2014
23 / 23

Download Report