対数周辺尤度の漸近挙動について

対数周辺尤度の漸近挙動について
九州大学江口翔一
九州大学増田弘毅
ベイズアプローチにおける相対モデル記述評価においては, データの対数周辺尤度の漸近
挙動に基づいて最適モデルを決定する. すなわち, 対数周辺尤度の主要項を使いやすい形で表
現することができれば記述的モデル評価規準として用いることができる. 古典的なベイズ情
報量規準 BIC においては最尤推定量の漸近正規性およびラプラス近似に基づいてその形が
導出されるが, 特に従属データモデルなどでは,BIC 導出の数学的正当性が厳密に議論されな
い場合がしばしばある. 本発表では, 漸近混合正規性やモデル誤特定の場合まで視野に入れた
枠組みで対数周辺疑似尤度の漸近挙動を表現するための正則条件を提示し, 従来の BIC の拡
張を提案する.
以下の対数周辺疑似尤度を考える:
∫
Fn = − log
(
)
exp Hn (θ) φ(θ)dθ.
Θ
ここでパラメータ θ ∈ Θ ⊂ Rp とし, 事前分布 φ : Θ → R+ , Hn : Ω × Θ → R とする. 最も
重要な条件として以下の多項式型大偏差不等式を仮定する:
∃C1 , C2 > 0, ∃L > 1, ∃const.D > d + q (q > 0) s.t. ∀n > 0, ∀r > 0,
]
[
C2
C1
sup Pθ0 sup Zn (u; θ0 ) ≥ D ≤ L .
r
r
θ0 ∈K
|u|≥r
ただし θ0 を Hn で推定される最適パラメータとし, an (θ0 ) → 0, K ⊂ Θ, Zn (u; θ0 ) :=
(
)
exp Hn (θ0 + an (θ0 )u) − Hn (θ0 ) とする. 適当な条件の下で, 対数周辺疑似尤度 Fn は以下
のように表現できる:
1
p
1
1 −1
log |Γ0 | + log
− ∥Γ0 2 ∆n ∥2 − log φ(θ0 ) + op (1)
2
2
2π 2
ˆ
ˆ
= −Hn (θn ) − p log an (θn ) + Op (1).
(∗)
Fn = −Hn (θ0 ) − p log an (θ0 ) +
ここで ∆n := an (θ0 )∂θ Hn (θ0 ), Γ0 = −an (θ0 )2 ∂θ2 Hn (θ0 )+op (1) とし, θˆn は an (θ0 )−1 (θˆn −
θ0 ) = Op (1), log an (θˆn ) − log an (θ0 ) = Op (1) をみたす推定量である. したがって, 例えば
(∗) において主要項をみることにより, 様々な統計モデルのベイズ型（モデル記述型）モデル
1
評価の正当性が示される. 特に, Hn を対数尤度関数, an (θ) = n− 2 , θˆn を最尤推定量とする
と, (∗) は古典的なベイズ情報量規準 BIC の形に帰着する.

Download Report