第 19 回 系列相関

第 19 回 系列相関
村澤 康友
2014 年 12 月 15 日
目次
1
定常過程
1
2
系列相関
2
2.1
系列相関をもつ回帰モデル
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
2
2.2
系列相関をもつ動学モデル
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
2
3
Newey–West の標準誤差
3
4
Cochrane–Orcutt 法
5
4.1
Cochrane–Orcutt 推定量 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
5
4.2
実行可能な Cochrane–Orcutt 推定量 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
5
1 定常過程
{yt } を確率過程とする.
定義 1. E(yt ) と cov(yt , yt−s ) が t に依存しない {yt } を(弱)定常過程という.
定義 2. {yt } の s 次の自己共分散は
γ(s) := cov(yt , yt−s )
定義 3. {yt } の s 次の自己相関は
ρ(s) :=
γ(s)
γ(0)
定義 4. ある s ̸= 0 について ρ(s) ̸= 0 であることを系列相関という.
定義 5. 平均 0 で系列相関のない定常過程をホワイト・ノイズという.
(
)
注 1. 分散が σ 2 なら WN σ 2 と書く.
1
定義 6. p 次の自己回帰(AR)過程は
yt = ϕ1 yt−1 + · · · + ϕp yt−p + wt
( )
{wt } ∼ WN σ 2
注 2. {yt } ∼ AR(p) と書く.
2 系列相関
2.1 系列相関をもつ回帰モデル
(y, X) を長さ T の時系列とする.yt の xt 上への AR(1) の系列相関をもつ線形回帰モデルを仮定する.
yt = x′t β + ut
ut = ϕut−1 + wt
( )
{wt } ∼ WN σ 2
ただし {ut } は {xt } と独立で,|ϕ| < 1 とする.このとき
γuu (0) = ϕγuu (1) + σ 2
γuu (1) = ϕγuu (0)
γuu (2) = ϕγuu (1)
..
.
最初の 2 式より
γuu (0) =
σ2
1 − ϕ2
したがって y の X 上への一般化線形回帰モデルは
y = Xβ + u
E(u|X) = 0
var(u|X) = Σ
ただし

Σ=
σ2
1 − ϕ2




1
ϕ
..
.
ϕ
1
..
.
ϕT −1
ϕT −2

. . . ϕT −1
. . . ϕT −2 

.. 
..
.
. 
...
1
OLS・GLS 推定量の性質は既に見た通り.
2.2 系列相関をもつ動学モデル
{yt } に AR(1) の系列相関をもつ線形動学モデルを仮定する.
yt = γyt−1 + ut
ut = ϕut−1 + wt
( )
{wt } ∼ WN σ 2
2
yt を yt−1 に回帰すると
E(yt |yt−1 ) = γyt−1 + E(ut |yt−1 )
= γyt−1 + ϕ E(ut−1 |yt−1 )
ϕ ̸= 0 なら第 2 項は 0 でないので回帰係数は γ でない.
3 Newey–West の標準誤差
(y, X) を長さ T の時系列とする.yt の xt 上への線形回帰モデルは
yt = x′t β + ut
E(ut |xt ) = 0
β の OLS 推定量を bT ,残差ベクトルを e := y − XbT とする.bT は次のように表せる.
bT =
( T
∑
)−1
xt x′t
t=1
(
=β+
T
∑
xt x′t
T
∑
xt yt
t=1
)−1 T
∑
t=1
したがって
√
T (bT − β) =
(
xt ut
t=1
T
1∑
xt x′t
T t=1
)−1
T
1 ∑
√
xt u t
T t=1
定理 1.
√
)
(
d
T (bT − β) −→ N 0, E(xt x′t )−1 V E(xt x′t )−1
ただし
(
V := lim var
T →∞
T
1 ∑
√
xt u t
T t=1
)
証明. 学部レベルを超えるので省略.
注 3. 系列相関がなければ
( T
)
∑
1
V = lim
var
xt ut
T →∞ T
t=1
= var(xt ut )
3
系列相関があるなら
1
var(x1 u1 + · · · + xT uT )
T
T
−1
∑
1
= lim
|T − s| cov(xt ut , xt−s ut−s )
T →∞ T
V = lim
T →∞
s=−(T −1)
=
∞
∑
cov(xt ut , xt−s ut−s )
s=−∞
=
=
=
−1
∑
cov(xt ut , xt−s ut−s ) + var(xt ut ) +
∞
∑
s=−∞
∞
∑
s=1
∞
∑
s=1
∞
∑
s=1
∞
∑
cov(xt ut , xt+s ut+s ) + var(xt ut ) +
cov(xt−s ut−s , xt ut ) + var(xt ut ) +
s=1
= E(xt ut (xt ut )′ ) +
cov(xt ut , xt−s ut−s )
cov(xt ut , xt−s ut−s )
cov(xt ut , xt−s ut−s )
s=1
∞
∑
(E(xt ut (xt−s ut−s )′ ) + E(xt−s ut−s (xt ut )′ ))
s=1
定義 7. V の Newey–West 推定量は
]
[
l(T )
T
T
T
∑
∑
∑
∑
1
1
1
′
′
′
xt et (xt et ) +
xt et (xt−s et−s ) +
xt−s et−s (xt et )
k(s)
VˆT :=
T t=1
T t=s+1
T t=s+1
s=1
ただし
(
)
l(T ) := o T 1/2
k(s) :=
l(T ) + 1 − s
l(T ) + 1
注 4. 第 1 項のみなら White の推定量.
定理 2. 適当な仮定の下で
plim VˆT = V
T →∞
証明. 学部レベルを超えるので省略.
定義 8. Newey–West 推定量に基づく bT の標準誤差を Newey–West の標準誤差という.
注 5. 条件つき不均一分散と系列相関があっても正しい標準誤差となっている.
4
4 Cochrane–Orcutt 法
4.1 Cochrane–Orcutt 推定量
(y, X) を長さ T の時系列とする.yt の xt 上への AR(1) の系列相関をもつ線形回帰モデルを仮定する.
yt = x′t β + ut
ut = ϕut−1 + wt
( )
{wt } ∼ WN σ 2
ただし {ut } は {xt } と独立で,|ϕ| < 1 とする.ϕ は既知とする.
定義 9. (y, X) の Cochrane–Orcutt 変換は


y2 − ϕy1


..
y(ϕ) := 
,
.
yT − ϕyT −1


(x2 − ϕx1 )′


..
X(ϕ) := 

.
(xT − ϕxT −1 )′
注 6. t = 2, . . . , T について
yt − ϕyt−1 = x′t β + ut − ϕ(x′t−1 β + ut−1 )
= (xt − ϕxt−1 )′ β + ut − ϕut−1
= (xt − ϕxt−1 )′ β + wt
したがって
E(y(ϕ)|X(ϕ)) = X(ϕ)β
var(y(ϕ)|X(ϕ)) = σ 2 IT −1
古典的線形回帰モデルが得られるが,データを 1 つ捨てている.
定義 10. β の(実行不可能な)Cochrane–Orcutt 推定量は
bCO := (X(ϕ)′ X(ϕ))−1 X(ϕ)′ y(ϕ)
注 7. データを 1 つ捨てるので BLUE ではない.
4.2 実行可能な Cochrane–Orcutt 推定量
ϕ の推定方法:
1. β の OLS 推定量を b,残差ベクトルを e := y − Xb として,次の OLS 問題を解く.
min
ϕ
T
∑
(et − ϕet−1 )2
t=2
and ϕ ∈ (−1, 1)
5
2.(Durbin の方法)Cochrane–Orcutt 変換より
yt − ϕyt−1 = (xt − ϕxt−1 )′ β + wt
すなわち
yt = ϕyt−1 + x′t β − x′t−1 (ϕβ) + wt
この式に OLS を適用する.
ϕ の推定量を ϕˆT とする.
定義 11. β の実行可能な Cochrane–Orcutt 推定量は
(
bFCO =
( )′ ( ))−1 ( )′ ( )
X ϕˆT X ϕˆT
X ϕˆT y ϕˆT
ˆT = ϕ なら
定理 3. plimT →∞ ϕ
√
√
T (bFCO − β) = T (bCO − β) + op (1)
証明. 学部レベルを超えるので省略.
6