統計II S15 - Info Shako

統計II S15
2変数古典的回帰モデル
最小二乗推定量の統計的性質
1
古典的2変数回帰モデル
推定値(a,b)と未知パラメータ()
 = a+bX とY =  + X +  の関係
Y
古典的回帰モデル
Y =  + X + 
仮定1
Xは非確率的である。
仮定2
攪乱項の期待値はゼロ (E() = 0)。
仮定3
攪乱項の分散は一定
仮定4
攪乱項はお互いに無相関である(Cov(i,j) = 0)。(独立性)
仮定5
は正規分布に従う。(正規性)
(Var() = )。(均一分散性)
2
仮定 5 正規性(Normality)
~N(0,2)
近似的に従っていると考えてよいケースが多い。
消費関数のように撹乱項が所得以外の無数の要因
からなる影響の和を表しているような場合、
中心極限定理により撹乱項が正規分布に従うと考えられる。
仮定1~4
:古典的(二変数)回帰モデル
(CRM, Classical Regression Model)
CRM+仮定5:古典的正規回帰モデル
(CNRM, Classical Normal Regression Model)
3
X = X j の時の
Y
X = X i の時の
Y の分布
Y の分布
Xi
Xj
X
4
2 変数回帰モデルにおける
最小二乗推定値 (a,b)の統計的性質
をb(最小二乗推定量)で推定。
 ( X  X )(Y  Y ) / (n  1)
 ( X  X ) / (n  1)
 x Y   x (   X   )
b
x
x
 x 0,  xX  x
 x
第2項は推定誤差
b
x

S
b  XY2 
SX
i
i
2
i
i
i i
i
i
i
i
i
2
i
i
i
2
i
i
i
i
i
i
i
i
2
i
i i
i
i
2
i
期待値
E(b) = E( + ixii/ixi2)
=  + ixiE(i)/ixi2
=
bはの不偏推定量
5
bの分散
b2 = Var(b)
= Var(ixii/ixi2)
仮定1 X,xは非確率的
&Var(a+bX)=b2Var(X)
(a,bは定数)
= Var(ixii)/ixi2)2
仮定3
独立性
Var(X+Y)=Var(X)+Var(Y)
= iVar(xii)/ixi2)2
仮定1
= ixi2Var(i)/ixi2)2
仮定4
均一分散 Var(i)=2
= ixi2/ixi2)2
= /ixi2
6
精度を決める要因:2, ixi2/n, n
σ2
b =
(Σ i x i2 /n)n
2
精度を上げる(bを小さくする)には、
1. n大
教訓:(データ数=情報を増やす)
2.ixi2/n大
教訓:(広い範囲からデータ収集)
3.2小
教訓:(2変数回帰モデルの枠組みの中では対策なし)
X以外の要因を考慮(多変数回帰モデル)
7