コンピュータ経済分析 I OLS 推定ベクトルの共分散行列の推定など 2014 年 6 月 8 日作成角田保 1 初めに 1: Eviews の推定以下のように変数 y, x2, x3 があるとき y 62 83 55 64 45 17 x2 40 52 34 18 11 10 x3 18 22 11 23 13 12 y を定数項と，x2 と x3 で回帰すると，Eviews では以下の表で得られます．図1 表から推計式の係数だけ書くと， yˆ = −0.52 + 0.77x2 + 2.0x3 のように得られます．今回は係数の横にある標準誤差 (Standard Error) を，Scilab によって求めましょう． 1 2 初めに 2: 理論的に今回も標準的な仮定を満たす n サンプル k 変数 OLS モデル yi = β1 x1i + β2 x2i + · · · + βk xki + εi (i = 1, 2, · · · , n) (1) で，前回同様に行列形式で書いたものが以下です． y = Xβ + ε (2) ˆはそして，前回レジュメで β の OLS 推定量ベクトル β βˆ = (X ′ X)−1 X ′ y (3) E[εi ] = 0, V [εi ] = σ 2 , Cov(εi , εj ) = 0 (4) で得られることを説明しました．今回は誤差項の標準的な仮定 (i, j = 1, 2, · · · , n で i ̸= j) を満たすとき， βˆ の共分散行列 (k 次正方行列) が， ˆ = E[(βˆ − E[β])( ˆ βˆ − E[β]) ˆ ′ ] = σ 2 (X ′ X)−1 V [β] (5) となることを示しましょう．その後，この式を基にして標準誤差を求めます． 3 (4) 式の行列表現 (4) 式を，ε1 , · · · , εn を縦に並べた n 項列ベクトルの誤差項ベクトル ε で表現しよう．まず各 εi の期待値は E[εi ] = 0 だから，それを縦に並べて E[ε] = 0 (6) 0 は n 項列ベクトルで，成分が全て 0 のゼロベクトルです．共分散行列 V [ε] は，仮定より E[(ε − E[ε])(ε − E[ε])′ ] なのですが，(6) 式より， E[εε′ ] となります．これの (i, j) 成分は εi εj なので，(4) 式より，  σ2 0  E[εε′ ] =  .  .. 0 0 σ2 .. . 0 ··· ··· .. . ···  0 0  ..  .  σ2 と，対角成分は σ 2 で，非対角成分は 0 となります．これを n 次単位行列 I を用いて書くと， V [ε] = σ 2 I (7) ε ∼ (0, σ 2 I) (8) そこで，(6) 式と (7) 式を合わせた表現で，とあらわすのが一般的です． 2 4 ちょっと復習 1:行列の転置行列と逆行列行列 A, B で，積 AB が定義されているとき (AB)′ = B ′ A′ また A, B とも n 次正方行列で，ともに逆行列を持つ場合， (AB)−1 = B −1 A−1 , [(A)−1 ]′ = [A′ ]−1 5 ちょっと復習 2:期待値ベクトルと共分散行列縦に n 個の確率変数を並べた，確率変数列ベクトル x について， x ∼ (µ, G) (µ と G はそれぞれ期待値ベクトルと共分散行列) とします．k ≤ n として，k 次正方行列 A と，k 項列ベクトル b という定数の行列と定数の列ベクトルを考えます．このとき， x ∼ (µ, G) =⇒ Ax + b ∼ (Aµ + b, AGA′ ) (9) となることは，ちょっと以前に示しました． 6 βˆ の期待値と共分散行列 (3) 式より， βˆ = (X ′ X)−1 X ′ y (2) 式より = (X ′ X)−1 X ′ (Xβ + ε) = (X ′ X)−1 X ′ Xβ + (X ′ X)−1 X ′ ε = β + (X ′ X)−1 X ′ ε (9) 式の x に ε, A に (X ′ X)−1 X ′ b に β として考えると，(8) 式と合わせて ∼ (β, (X ′ X)−1 X ′ σ 2 I((X ′ X)−1 X ′ )′ ) 上の共分散行列の部分を簡単にしたい．まずその一部 ((X ′ X)−1 X ′ )′ については，4 節より， ((X ′ X)−1 X ′ )′ = X[(X ′ X)−1 ]′ = X([X ′ X]′ )−1 = X(X ′ X ′′ )−1 = X(X ′ X)−1 ˆ の共分散行列は，となります．よって，β ˆ = (X ′ X)−1 X ′ σ 2 I((X ′ X)−1 X ′ )′ V [β] = (X ′ X)−1 X ′ σ 2 IX(X ′ X)−1 σ 2 はスカラーだから前に出す．I は単位行列だから掛け算で消去される． = σ 2 (X ′ X)−1 X ′ X(X ′ X)−1 = σ 2 (X ′ X)−1 以上より， βˆ ∼ (β, σ 2 (X ′ X)−1 ) 3 (10) 7 βˆ の共分散行列の推定と，各係数の標準誤差 (10) 式での σ 2 は未知なので，βˆ の共分散行列の推定には，σ 2 を X, y を使って推定する必要があります．そこで σ ˆ2 2 を，誤差項の分散 σ の推定量として，それは残差 εˆ を用いて， σ ˆ2 = εˆ′ εˆ 残差平方和 = n−k n−k ˆ の共分散行列の推定量で表します (なぜこの推定量にするかはいずれ説明します)．これによって，β ˆ =σ Vˆ [β] ˆ 2 (X ′ X)−1 (11) が得られます．この第 i 対角成分 (つまり (i, i) 成分) が，βi の分散の推定値となります．ですから，標準誤差はその正の平方根です． ˆ の対角成分を縦に並べて，それぞれ正の平方根をとったもの OLS の結果表にある，各係数に対する標準誤差は，この Vˆ [β] です． 8 最初の Eviews のデータで Scilab で求めてみましょう．以下実習です． 4