第 14 回 F 検定の応用：Chow 検定村澤康友 2014 年 7 月 16 日目次 1 検定問題 1 2 分散が等しい場合 2 2.1 古典的正規線形回帰モデル . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 2.2 OLS 推定量 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 2.3 制約つき最小 2 乗推定量 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 2.4 Chow 検定 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 分散が異なる場合 4 3 1 検定問題大きさ n の (1 + k) 変量データ (y, X) を大きさ n1 の (y1 , X1 ) と大きさ n2 の (y2 , X2 ) に分割する．それぞれについて以下の古典的正規線形回帰モデルを仮定する． ( ) y1 |X ∼ N X1 β1 , σ12 In1 ( ) y2 |X ∼ N X2 β2 , σ22 In2 まとめて書くと ( [ 2 σ I y|X ∼ N X∗ β, 1 n1 O ただし [ X∗ := X1 O ] O , X2 O σ22 In2 β := ]) ( ) β1 β2 次の検定問題を考える． H0 : β1 = β2 , σ12 , σ22 > 0 vs H1 : β1 ̸= β2 , σ12 , σ22 > 0 R := [Ik , −Ik ], c := 0 とすると， H0 : Rβ = c, σ12 , σ22 > 0 vs H1 : Rβ ̸= c, σ12 , σ22 > 0 1 2 分散が等しい場合 2.1 古典的正規線形回帰モデル σ12 = σ22 = σ 2 とすると， ( ) y|X ∼ N X∗ β, σ 2 In 検定問題は H0 : Rβ = c, σ 2 > 0 vs H1 : Rβ ̸= c, σ 2 > 0 2.2 OLS 推定量残差 2 乗和は ( )′ ( ) y1 − X1 β1 y1 − X1 β1 (y − X∗ β) (y − X∗ β) = y2 − X2 β2 y2 − X2 β2 ′ = (y1 − X1 β1 )′ (y1 − X1 β1 ) + (y2 − X2 β2 )′ (y2 − X2 β2 ) β の OLS 推定量を b := (b′1 , b′2 )′ とすると， b1 = (X1′ X1 )−1 X1′ y1 b2 = (X2′ X2 )−1 X2′ y2 e := y − X∗ b, e1 := y1 − X1 b1 , e2 := y2 − X2 b2 とすると， e′ e = e′1 e1 + e′2 e2 2.3 制約つき最小 2 乗推定量 H0 の下では ( ) y|X ∼ N Xβ1 , σ 2 In H0 の下での β1 の OLS 推定量を b1∗ とすると， b1∗ = (X ′ X)−1 X ′ y e∗ := y − Xb1∗ とする． 2.4 Chow 検定 F 検定統計量は [ ]−1 (Rb − c)′ s2 R(X∗′ X∗ )−1 R′ (Rb − c) F := k [ ]−1 (b1 − b2 )′ s2 (X1′ X1 )−1 + s2 (X2′ X2 )−1 (b1 − b2 ) = k ただし s2 := e′ e n − 2k 2 定理 1. H0 の下で F |X ∼ F(k, n − 2k) 注 1. min{n1 , n2 } < k なら b は計算できない（ただし別の方法がある）．定理 2. H0 の下で (e′∗ e∗ − e′ e)/k |X ∼ F(k, n − 2k) e′ e/(n − 2k) 証明. 分母・分子を σ 2 で割ると ] [ ′ (e∗ e∗ − e′ e)/σ 2 /k (e′∗ e∗ − e′ e)/k = e′ e/(n − 2k) (e′ e/σ 2 ) /(n − 2k) H0 の下で以下を示せばよい． 1. (e′∗ e∗ − e′ e)/σ 2 |X ∼ χ2 (k), 2. e′ e/σ 2 |X ∼ χ2 (n − 2k), 3. X を所与として分母と分子は独立．誤差ベクトルを u := y − X∗ β とすると， e := y − X∗ b = y − X∗ β − X∗ (b − β) = u − X∗ (X∗′ X∗ )−1 X∗′ u また H0 の下で e∗ := y − Xb1∗ = y − Xβ1 − X(b1∗ − β1 ) = u − X(X ′ X)−1 X ′ u したがって H0 の下で [ ] [ ] e′∗ e∗ − e′ e = u′ In − X(X ′ X)−1 X ′ u − u′ In − X∗ (X∗′ X∗ )−1 X∗′ u ] [ = u′ X∗ (X∗′ X∗ )−1 X∗′ − X(X ′ X)−1 X ′ u ここで [ X∗ (X∗′ X∗ )−1 X∗′ − X(X ′ X)−1 X ′ ]2 = X∗ (X∗′ X∗ )−1 X∗′ − X∗ (X∗′ X∗ )−1 X∗′ X(X ′ X)−1 X ′ − X(X ′ X)−1 X ′ X∗ (X∗′ X∗ )−1 X∗′ + X(X ′ X)−1 X ′ [ ][ ] X1 (X1′ X1 )−1 X1′ O X1 ′ −1 ′ = X∗ (X∗ X∗ ) X∗ − (X ′ X)−1 X ′ O X2 (X2′ X2 )−1 X2′ X2 [ ] [ ′ ] X1 (X1′ X1 )−1 X1′ O ′ −1 ′ X1 X2 − X(X X) + X(X ′ X)−1 X ′ O X2 (X2′ X2 )−1 X2′ = X∗ (X∗′ X∗ )−1 X∗′ − X(X ′ X)−1 X ′ したがって X∗ (X∗′ X∗ )−1 X∗′ − X(X ′ X)−1 X ′ は対称べき等で階数が k なので，H0 の下で e′∗ e∗ − e′ e |X ∼ χ2 (k) σ2 3 独立性については ([ ] [ ] ) X∗ (X∗′ X∗ )−1 X∗′ − X(X ′ X)−1 X ′ u, In − X∗ (X∗′ X∗ )−1 X∗′ u|X [ ][ ] = σ 2 X∗ (X∗′ X∗ )−1 X∗′ − X(X ′ X)−1 X ′ In − X∗ (X∗′ X∗ )−1 X∗′ =O cov 3 分散が異なる場合 σ12 ̸= σ22 とすると ( [ 2 σ I y|X ∼ N X∗ β, 1 n1 O これは古典的線形回帰モデルでないので F 検定はできない． 4 O σ22 In2 ])