問題と解答

2015 年度即れぽ
4/17 条件付き確率 f(x|y)、条件付き期待値 E(x|y)
X:今朝天気予報見た 1 見ない 0、y:傘を持ってきた 1 持たない 0 としたとき、50 人の学生
に調査したところ下記の結果を得た。このとき以下の確率、期待値を求めよ。
x y
0
0 15
1
5
計 20
1
5
25
30
計
20
30
50
条件付き確率 f(y=0|x=0)、f(y=1|x=1)
条件付き期待値 E(y|x=0)、E(y|x=1)
(point) Greene p-1074
条件付き確率 f(y|x)=f(x,y)/fx(x)→乗法公式 f(x,y)=f(y|x)fx(x)
独立性 f(y|x)=fy(y)→f(x,y)=fx(x)fy(y)
条件付き期待値 E(y|x)=Σyf(y|x) Var(y|x)=Σ{y－E(y|x)}2f(y|x)=E(y2|x)－{E(y|x)}2
(解答)
f(y=1|x=0)=f(y=1,x=0)/f(x=0)=(5/50)/(20/50)=5/20=1/4
f(y=1|x=1)=f(y=1,x=1)/f(x=1)=(25/50)/(30/50)=25/30=5/6
E(y|x=0)=0*f(y=0|x=0)+1*f(y=1|x=0)=1/4
E(y|x=1)=0*f(y=0|x=1)+1*f(y=1|x=1)=5/6
5/1 Make Matrix, Projection Matrix の性質（対称・ベキ等行列）
M=I－P, P=X(X’X)-1X’のとき M=M’, M=MM’, MX=0, PM=0, PX=X を証明せよ
(point) 簡単です。行列の演算に慣れてください。
(解答)
P’=X (X’X)-1X’=P （∵(X’X)-1 は対称行列）なので M’=I’－P’＝I－P=M
PP’＝X(X’X)-1X’ X(X’X)-1X’=P なので MM’＝(I－P)(I’－P’)=II’－P－P’＋PP’=I－P=M
PX=X(X’X)-1X’X=X
MX=(I－P)X=X－PX＝X－X=0
5/8 LSE の効率性証明
任意の線形不偏推定量 b0=Cy=[(X’X)-1X’+D]y の分散 Var(b0|X)=σ2CC’より LSE の分散
Var(b|X)=σ2(X’X)-1 が最小分散となることを示せ。
(解答)
不偏性の条件 CX=I, DX=0 より
CC’={(X’X)-1X’+D}{X(X’X)-1+D’}=(X’X)-1+(X’X)-1(DX)’+DX(X’X)-1+DD’=(X’X)-1+DD’
DD’は正値定符号行列なので CC’の最小値は(X’X)-1
5/15 不偏性、一致性(確率収束の証明)
xi が iid で E(xi)=μ, Var(xi)=σ2 のとき、無作為標本(x1,x2,..,xn)から求められるμの推定量
－
ma=x1, mb=x+1/n の不偏性、一致性を検討せよ。
(解答)
不偏性（E(m)=μを示す）
－
－
E(ma)=E(x1)=μ、 E(mb)=E(x+1/n)=E(x)+1/n=μ+1/n
一致性（limE(m)=μ、limVar(m)=0 を示す）
limE(ma)=μ, lim(mb)=μ
－
不偏性は ma〇mb×
limVar(ma)=σ2、limVar(mb)=limVar(x)+lim(1/n)=lim(σ2/n)+0=0
一致性は ma×mb〇
5/22 一致性の証明
不偏分散 s2=e’e/(n-k)が一致推定量であることを示せ
(解答)
残差 e=y－Xb=My,=M(Xβ+ε)=Mε, M=I－X(X’X)-1X’ なので
残差 2 乗和 e’e=ε’Mε=ε’ε－ε’X(X’X)-1X’ε
s2=n/(n-k)[ε’ε/n－ε’X/n(X’X/n)-1X’ε/n]
plim s2=plim n/(n-k) [plimε’ε/n －plimε’X/n (plim X’X/n)-1 plim X’ε/n]
plim n/(n-k)=plim 1/(1-k/n)=1, plimΣεi2/n=σ2, plim X’X/n=Q, plimε’X/n=0 より
∵E(Σεi2/n)=ΣE(εi2)/n=nσ2/n=σ2、Var(Σεi2/n)=ΣVar(εi2)/n2=n(φ-σ4)/n2→0
テキスト p-108 参照。収束の証明にはεの 4 次モーメントφが有限値をとることを仮定す
る必要がある。
6/12 最尤法
対数尤度関数 lnL(y1,y2,…,yn;θ)=Σ{yilnθ+(1－yi)ln(1－θ)}=lnθΣyi+ln(1－θ)Σ(1－
yi)= lnθΣyi+ln(1－θ)(n－Σyi)
1 階の条件 dlnL/dθ= (Σyi)/θ－(n－Σyi)/( 1－θ)=0
最尤推定量
－
( 1－θ) (Σyi)－θ(n－Σyi)＝(Σyi)－nθ=0 よりθ*=(Σyi)/n=y
6/19 最尤法
Score g=(lnL)’=Σyi/θ－(n－Σyi)/(1－θ)
Hessian H=g’=－Σyi/θ2－(n－Σyi)/(1－θ)2
Information I=E(－H)=ΣE(yi)/θ2＋(n－ΣE(yi))/(1－θ)2=n/θ+n/(1－θ) ∵E(yi)=θ
Var(θML)={I}-1=θ(1－θ)/n
6/26 仮説検定

Download Report