西南学院大学
人間科学論集
第１０巻
第２号
１
３
１―１
４
５頁 ２
０
１
５年２月
研究ノート
２標本正規分布の平均に順序があるときの
最尤推定量の期待値と
ブートストラップ推定について
安
楽
和
夫
Expectation of the Order Restricted MLE of the Means
in a Two−Sample Normal Model and the Bootstrap Estimation
Kazuo Anraku
１
はじめに
２つの正規分布母集団の平均母数を θ１，θ２ とする．θ１，θ２ は推定すべき未知
母数である．それぞれの分布の分散はともに既知とする．
２ つの母集団から得
られたデータから，それぞれの標本平均が求まるが，これらは θ１，θ２ につい
ての尤度関数を最大にする最尤推定量（maximum likelihood estimator; MLE）
である．その期待値はそれぞれの平均母数 θ１，θ２ になる．この場合，θ１，θ２ に
は制約条件は何も仮定されていないが，本稿では順序制約
!!!!"
（１）
を 仮 定 し，平 均 母 数 θ１，θ２ の 順 序 制 約 下 で の 最 尤 推 定 量（order restricted
MLE; ORMLE）ならびに関連する統計量の期待値について考察する．
２つの母集団の母数比較は２標本問題などと呼ばれるが，これは一般に，複
数の母集団分布を規定する母数についての推測を行う多標本問題（あるいは k
標本問題）の特殊な場合である．多標本での ORMLE については，検定統計
量や許容性との関係などから多くの研究があるが，推定量の期待値そのものに
132
安
楽
和
夫
ついて記述した文献は見当たらないようである．本稿では，２標本の場合の
ORMLE の期待値の明示的な式を与える．またブートストラップ法による推定
について考察する．
２
順序制約下での最尤推定量の期待値とブートストラップ法
２．
１ 順序制約下での最尤推定量の期待値
平均０，分散１の正規分布を標準正規分布という．標準正規分布の密度関数
%
!$"
% !+ "
+ とすると，$%&
+#%
'&
+ と表す．
$ %である．また分布関数をΦ%&
%
を $%&
+
%
+#&
*##"の正規分布の密度
*#*である．平均 μ，分散 *
!
すなわちΦ%&
!$ $%&
+!&&
"
*
"
*で表され，その分布関数はΦ%
+!&&
"
*
%
&
%
&となる．
関数は，$%
ここでは２つの１次元正規母集団を考える．X１，．．．，Xm ; Y１，．．．，Yn はそ
($!%$%"
(%!%%%"に従うものとする（以下このような場合に
れぞれ独立に !!
，!!
($!%$%"と表記する）．ここで，分散 %$%，%%%%
%$##
!%%##
&
は，X１，．．．，Xm∼!!
%$!(%&とすると，'(
%$!(%&は次の
はそれぞれ既知である．対数尤度関数を '(
ように表せる：
%
%
(
)
,
+
%&
&!(
$&
%!(
$% %
$ %
'(
#"
! %
%$!(%&
$!
%%#$ %$%
%&#$ %%%
%
%
(%!,&
($!+&
%
$%
"
#"
#
$.
%!
%
%
)$
)%
%
（２）
（３）
%
,#)!$%)
)%
(!)%%#%%%"
),
ここで，+#(!$%(
%!
&!
%#$+
&#$,
$#%
$"
"
$ #!
(")
(
) %%
'
(&%
(&%$%! '
(& %,
! '
%'&
%
%
%
（４）
%
%
(
)
,
+
&
&
&!,
%!+
$% %
$ %
"
! %
% #"
$!
,
%%#$ %$%
%&#$ %%%
である．なお，変数をデータと見なす場合は小文字で，確率変数と見なすとき
は大文字で表記するのが一般的である．本稿では両方の記法を適宜用いるが，
同一視してもよい．
)
)
$，(
% で表すと，上
順序制約が無い場合の ($，(% の最尤推定量（MLE）を (
)
)
$ #+
% #,となる．一方，制約
の（３）式から (
，(
（１）を仮定した場合の，($，(% の
2 標本正規分布の平均に順序があるときの最尤推定量の期待値と
ブートストラップ推定について
133
'"，%
'# で表すと，%
&
&
#('
$%
#)'
"&
#&
順序制約下での最尤推定量（ORMLE）を %
'#
&
&
&
'"，%
'$#%
$#"
!#
#('
%%
#)'のとき，MLE %
'であ る が，%
"&
#&
のとき，%
$&
は，%" と %# の座標平面で領域の境界 %"#%##%上に同一値として得られる．
'"!
'#"は #%%
"
#%#!より次で与えられる：
#%
&!%'
したがって %
+
.
.
&
&
&
.
$
%
$%
" $%
#
-%
'$# &#%
#&
&
%
$#"
!#
&
'
．
%
"&
"
#
#
"
&
&
.
%
$%
.
" #%
#
.
, &"#"&##
（５）
'" の期待値は次により求められる：
これから %
(!%" " )!%#
("$'
#)
( $'
(#(
&"
&" &#
&#
'"$
0
!#
%
#0
($)
&##("&"#) " (!%" " )!%#
#)
$'
( $'
(#(
&" &#
&#
&"#"&## &"
0
"0
(#)
ここで直交行列を用いた変換
#
#
#
#
&
(!%"'"
&"
&""
/&""&# !&#"
/&""&# &
' (#)
*)
*
#
#
#
#
'
"
)
&
!%
"
&#"
&
&
&
"&
"&
&
'
#
#
" /"
#
/" #
を行うと，積分領域は次の領域に変換される：
(
!)'
*($)& ⇒
&
%
#
#
&!''
%#!%"'"
*&$&
&
%
/&""&#&
ここで
#
#
"#&
%#!%"'"
/&""&#
（６）
とおくと，上の変換により
&#&"&"&#'
& $&'
' #&#'
) " # # "%"*$&'
&$"
/&""&#
'"$
0
!#
%
#0
0
"0
#
#
&&' &%""&%#
& $&'
' #&#'
) "# # #" # # "# *$&'
&""&#
/&""&#
&#"
& ，1
'$&'
' #'#!，Φ&
(
#!&$&'
!('
#"!Φ&'
&'
と な る．こ こ で 関 係 式 $'&
'" の期待値は次のように表される：
を用いると %
'"$
!#
%
#%"!
&
$&'
" !"Φ&
!"'
(
)
#
/& "&#
#
"
#
"
（７）
134
安
楽
和
夫
$# の期待値も次のように表される：
同様に，&
'#
$#$
!#
&
#%&
# !#Φ%
#&#" ## #'
!#&
(
%'""'#
（８）
特に，&"#&##&のとき，
$"$
!#
&
#&!
'"#
，
%'
!"#"'##"
&#
$#$
!#
&
#&"
'##
%'
!"#"'##"
&#
（９）
を得る．ここで &#'とすると，&"#&##&のとき次が得られる：
$"!&$
!#
&
#!
$"#
%'!
$"#"$##"
&#
'(
')
#'(
$
$
)'"
一 般 に，二 つ の 数 列 '
，'
に つ い て，#
が有界であるとき
$"!&$
'&と表す．上の結果は，&
$
&
#' #"%
""
#"!
" #&
# #&のとき !#
*'"を
意味している．
これは Chernoff
（１９５４）の結果と符合する．
# ##%&
# !#Φ%
!#&とおくと，
なお，%%&
%(#
# !Φ%
# #!Φ%
!!
#!##%&
!#&
"##%&
!#&
%&
．
# は #の単調減少関数であり，#$!より，%%&
# は ##!で
したがって，%%&
%である．
!#""
最大となり，%%&
*#
３
ブートストラップ法による推定
$"$や !#
$#$は &"，&# に依存するので，
&
&
式（７）や（８）からわかるように，!#
これらの値は未知である．そこでこれを推定するためにブートストラップ法の
利用を考える．ブートストラップ法は Efron
（１９７９）によりその名前とともに
提唱された方法であり，広範に利用される統計手法である．ブートストラップ
法には，分布形を想定しないノンパラメトリック・ブートストラップ法と具体
的な分布族として仮定するパラメトリック・ブートストラップ法とがある．本
稿では後者を採用する．
パラメトリック・ブートストラップ法は，仮定した分布の未知母数の値に
データから得られた推定値を代入することで得られる分布を利用する．この分
布から，疑似乱数によりデータを人工的に生成し，これを利用して推定を行う
2 標本正規分布の平均に順序があるときの最尤推定量の期待値と
ブートストラップ推定について
135
' ∼" !
$""#"#"とする．未知母数である
"，)
#，．
方法である．ここでは，)
．．，)
%
%
$
$" を，$
#"#"から正規乱数を生成
#'!"%'
" #)
""
& で置き換え，分布 " !
&#")
する．$# についても同じである．
一般に，通常のブートストラップ法では元のデータと同数の (個を生成し，
これを１回分とする．生成されたデータ（あるいは確率変数）を )"（あるいは
"
"
"
#"）等で表すこととし，第 &回目に生成されたデータを !&"#!
)
!
!
""
)
&
&
"")
#"!
&
("
! を用いて %&
!&"'により推定するとする．
とする．またある指標の推定関数 %&'
ブートストラップ法ではこれを B 回繰り返し，その平均
!
"% % !"
&&'
! &#"
を推定値とする．この B を大きな値に設定することで，よりよい推定値が得ら
れ る と さ れ る．具 体 的 な B の 値 を 設 定 し な け れ ば な ら な い が 一 般 に は
!$"!!!が望ましいだろう．
パラメトリック・ブートストラップ法による推定量の期待値について考え
る．生成される確率変数を
%
%
$
$
#"""##""!
!
!
"#'"! #
#"#"
!
!
"$("! #
###"
$$"""$#""!
%"!
%"!
$
$
""
#"
とする．ブートストラップ法では母数とデータの関係を模して
$""$#'
&
⇒
%
%
$
$
!
""
#"
'' ⇒
)
)
!
!
!
")
&
""
#"
"
"
"
)
)
!
!
!
")
&
''
""
#"
(' ⇒
*
*
!
!
!
"*
&
""
#"
"
"
"
*
*
!
!
!
"*
&
('
""
#"
%
%
$
$
!
""
#"
⇒
"
"
%
%
""
#"
$
$
!
&""$
&#"
$
!
⇒
" &
"
&"
$
"$#"
!
のように置き換えを行う．ただし本稿では，標本サイズをより一般的に扱うた
"
%
"，
め，上のブートストラップ法の標本サイズ '，(を '!，(! とする．また $
"
"
"
%
&"
&#
%
%
&"，$
&# と同じ手順により
#，$
$
"，$
#，$
，$
は$
（５）から構成されるものであ
"
"
&"
&#
る．このような $
，$
の B 回の平均をとったものがブートストラップ推定値
となる．さてここでは正規分布を想定してデータを生成するので，
136
安
楽
和
夫
#
#
#
#
$
$
$
$
"&
#&
'!"
(!"
(
(
(
&"#"
&##"
%#!
%#!
$$ '
$% '
"!
#!
，(
#
#
'!，)!#
(! とおく．ブートストラップ法
$&"#"
$&##"
と見なせる．ここで )!"
で求めた推定値の期待値について，先の
（７），（８）と同じ関係が成り立つ．つ
まり
%"*
$
$
$
"#
(
(
(
$(
"!
#$
"!
)
$
$
$!#
$&'
#
!#
'
)
(
,
Φ&
)
% ")
# $ $
%#
$
"#
(
("!(#$
*
$(
#"
)
$
$
$!#
$&'
#
!#
'
)
(
Φ&
%) ")
#
#
!"
#
#
!"
!#
#
!#
#
#
!"
!#
ここで，
#
#
$
$
$$!
(
#
#!(
"""
%)!"")!#
（１０）
である．
ブートストラップ法は本来，統計量の分布の導出が困難な場合などに適用さ
%# の期待値）が式
%"，(
れるものであり，上のように求めたい指標（ここでは (
として陽に表される場合に適用されるものではない．ここでの目的はブートス
トラップ法の特性を評価することである点を注意しておく．
$を確率変
さてブートストラップ推定量の期待値を求めてみよう．
（１０）の #
$
$
("!&"#"
(#!&##"より
" %# !
# %# !
数とみなすと，(
，(
$%#&
'!%#'
#
である．ここで
#
#
#
#
)"#")##""
'$&
(#!("'"
)!"
")!#
!
"
%)!"")!#，%$&!
# $ $
%#
$
$
$$'"%
&&
&%#&
!"
(
("!(#$を (
!
*
'
'より，"#
"，(
# につい て
である．今 #
（よって Z について）期待値をとると，
# $ $
%"
""#
(
("!(#$
*
$("!
#
)!"
"+
$&
'"%
&'
'"%
&'
'"%
&'
" Φ&
!&
(!
)
,
#
#
%)!"")!#
# $ $
#
%"
%"
(
("!(#$などを単に "#
(
*
$などと表すことにする．
である．以下では ""#
2 標本正規分布の平均に順序があるときの最尤推定量の期待値と
ブートストラップ推定について
137
関係式（A．
１），（A．
２），（A．
３）を用いると，次を得る：
")
!%
#""
#&
#""
#&
#""
#&
! Φ%
!%
'!
(
*
#
#
!!Φ%
$+!"""!%
&!#'
&(
+!"""
+!"""
ここで
!"""$
"
"
&!""&"""&!!
"&!"
#
%"!%!
$
，
"
"
"
"
&!!"&!"
!
"&!"
+ """ 4&!""&"""&!!
である．したがって次式を得る：
#!$
"#
%
$%!!
#
!
"
"
"
"
"
&!!
%"!%!
4&!"&""&!!"&!"+
!% " "
&
"
"
"
"
&!!"&!"
&
"&
4 ! ""&!!"&!"
%!!%"
%"!%!
&,．
Φ% " " "
"
"
"
"
"
4&!"&""&!!"&!" 4&!"&""&!!"&!"
（１１）
同じく
&" &""&""&" "&"
#
%"!%!
#"
"#
%
!% " "
$%"" !"4 ! " " "!! !"+
$
&
"
"
&!!"&!"
4&!"&""&!!"&!"
!
%!!%"
%"!%!
&,．
Φ% " " "
"
"
"
"
"
&
&
"&
"&
"&
"&
4 ! " !! !" 4 ! ""&!!"&!"
（１２）
通常のブートストラップ法では，$! $$，%! $%とするものとされる．こ
"
"
$&!"，&!"
$&""（したがって，""$!）となるので，
れを仮定すると，&!!
.
3
3
3
3
2
" 1
&
"
+
#
%
%
%
!%
!%
!%
!
"
!
"
!
!
"
#
"#
%!$
$%!! " "3!)
*!
*3
Φ)
4&!"&" 3
!!""&""" 5"&
!!""&""" 5"&
!!""&""" 3
/ 5"&
0
#"$に つ い て も 同 様 で あ る（式 は 省 略 す る）
%
．特 に，
で あ る．期 待 値 "#
#
%!$%"$%のとき次が成り立つ：
#!$
"#
%
$%!
#
&!"
&""
#
#"
%
$%"
$
， "#
，
! "&"
!!""&"""
5$&
5$&
"
!
"
"
#"
#!，%
これを（９）と比較すると，ブートストラップ法での推定量の期待値は，%
よりも +"倍大きく偏ることがわかる．このように %!$%"$%のとき次の関係
138
安
楽
和
夫
が成り立つ：
#
#
'!
'!$
'"$
'"
"#
(
""#
(
"(""#
(
""#
(
$
$
)となるように (!，)! を大きな値にとると，
)!→(#
上の（１１），
（１２）式で，(!#
"
"
)!!
→０，)!"
→０となり，
#
#
'!
'!$
'"
'"$
"#
(
(
(
(
$→ "#
$→ "#
，"#
が成り立つ．
&の分布を見ると，(!，)! を大きくとったとき，期待値も分散
ところが，$
も大きく変動することがわかる．K を適当な大きさの正数とするとき，
&
! *
&%$(
%'
$
&"#
&
&*$Φ!
'!$(#
&"
$( %!
'!'(#
'
$ &
"
"
"
"
("!(!(
!$')!!
")!"
$Φ!
'
%
&#
')!")""
"
"
"
"
("!(!(#
'
→０，)!"
→０のときΦ!
に近づく．つま
となるが，これは )!!
')!")""
り，K の値に依存しない値に近づき，これは ("!(! に依存した二項確率であ
る．適当な K の値に対して，上の確率は０に近づくべきところが，そうなっ
&について，推定量としての一致性が成り立たないことを
ていない．これは，$
意味する．
４
情報量規準への適用について
Akaike（１９７３，
１９７４）による赤池情報量規準（AIC）は，推定された確率分
&*
* からの乖離度を Kullback−Leibler の情報量
'(の，真の確率分布 *'(
布*
&
&*
#*
*'(
*$
*&*!(
*'(
*$
&*
%#*'(
%#*
$(
'!*
(
'(
（１３）
で測ろうとする手法である．マイナス符号を含めた第２項の値が小さいほど
&*
&*
*
* により近いことが示唆される．第２項の $
%#*
'(が真の確率分布 *'(
'(
'!!("(の未
は想定した分布密度の対数尤度であり，本稿では対数尤度関数 '(
（１３）式第２項では対数尤
知母数 (!，(" に最尤推定量を代入したものである．
2 標本正規分布の平均に順序があるときの最尤推定量の期待値と
ブートストラップ推定について
139
度関数の #!，#" に代入した MLE（あるいは ORMLE）を定数とみなし，他の
変数について期待値を取るが，一般にモデルの未知母数に依存する．そこでこ
れを再び最大対数尤度で推定を行うが，この推定は不偏でなく偏り（バイアス）
を生じる．通常の AIC ではこの偏りを補正するために未知母数の個数を用い
るのであるが，これは用いられる MLE の漸近分布によるものである（坂元他
（１９８３）等を参照されたい）．
こ こ で の 最 大 対 数 尤 度 は，順 序 制 約 を 前 提 と し た ORMLE を 代 入 し た
$""である．本稿の設定ではマイナスを除いた第２項は次のようになる：
(#
!$!!#
"
"
$!$
$"$
)
#&!#
$'!#
#
#
" !* !
"
! !
$!$
)
!#
(!
#
!#
!
#%
#
#$"$
"
$
(
!!!' )
"!"
"""
"&#!
"'#!
!は
（４）で定義したものである．また ORMLE に［
ここで %
］をつけたのは，こ
こでの期待値計算においては定数として扱われることを示すためである．具体
的には
"
"
$!$
$!$
#&!#
#&!#!"#!!#
#
#
!
"
!
"
!'
#!'
(
(
"
"
"!
"!
"
"
$!"
$!"
"
#!!#
#!!#
!
!
#&!#!%
$
#!%
#!"
"
&
"
"
"
"!
"!
"!
となる．$'についても同じ計算をすると次を得る：
$!$
!#
!#
(!
#
#%
#
#$"$
"
$
!!
"
"
$!!#!"
$"!#""
#
#
)"* !!
!!
!
!
．
"
" $!"
" $""
$""で推定する．そこで
!$!!#
次にこれを最大対数尤度 (#
$!$
$""
"#(#
(!
#
!#
!!#
!$!!#
#
#$"$
"
$
$""
!$!!#
を定義する．この統計量 T の期待値が補正すべきバイアスになる．(#
の期待値は次のようになる：
"
"
"
$&"
#
)
#&!#" * !
$'!$" " !
#
&!#
! )!
$""
!#
(#
")
")
#%
!$!!#
$
(
! ! !'
．
"
"
"
""
$!
" &#! "!
'#!
&#!
ここで
140
安
楽
和
夫
#
#
) !
"&!""
#&!#"
!
4
$(!"，!)
$)!"
*
*
#
%"
%##
&$"
'$"
(
4
!)
#
#
%&"
$
$
$
$
$
"
&
'&#$!であり，&
" !&
# のとき，4 '$"!
" #&
# のとき，
である．また &
&!&
#
#
%&"
$
$
$
&
&
!
!
#!&
""
&!&
$
'&#
'"#"'##
&$"
#
4
である．また（５）より次が得られる：
4
!)
#
%&"
$
#
&
!
&!&
-!,'
&
"$ ,!&" "$ -!&# %,
$6
*
#
$
#
$ %#
#
#
,#- '
'
'&
'" '#
'#
"'
"
"
#
#
*!$'
$．
$&'
* $&'
+ %*%+$&
""$#'
!$'
!$$&'
$6 &
Φ&
*#$
ただし，a は（６）式のものである．同様に，（A．
４）
より次が得られる：
%&!&&"
#
#
&
!
-!&#'
,!&"'
&
&
$6 % # "
*
&
,%'&#
'"
'##
#
4
!)
" ,!&" "$ -!&# %,
# $#
$
#
$ %'"
'" '#
'#
#
#
#
#
#
#
" ',"'" ',"'"6 + ## ## "# !&"$" ## ## "# !&#$,
,#- '
'
'
'
"'
"'
"
"
#
#
"
#
" ,!&" "$ -!&# %,
*#"+#'
$&'
* $&'
+ %*%+
# $#
$
#
$ %-$6 &
*%$
'"
'" '#
'#
.
3
#
#3
1
&#!&"'
&#!&"' 2
'"#&
'##&
'"'#+
'"'#+
"
"
"6 3 #' # # "
( " #' # # !
(3
*#$/
'" 5'""'#
'# 5'""'#
'"#"'##
'"#"'##
0
* $&'
+ %*%+
#$&'
*#"+#'
+#"$#'
$&'
* $&'
+ %*%+"6 &
$&'
* $&'
+ %*%+
$6 &
*%$
$6
*#$
*#$&'
* %*"""6
*%$
$#$&'
$)
* %*$"!(
$)
"!Φ&'
!$'
"$$&'
"""$#(
Φ&
*#$
$．
$ !$$&'
$ "$#!$#Φ&'
$""Φ&'
よって
2 標本正規分布の平均に順序があるときの最尤推定量の期待値と
ブートストラップ推定について
141
#
#
#
#
&
&
'"!(
'"!(""
'#!(
'#!(""
(
(
(
(
!
!
""
""
" !
"" !
"+
$,
$"! ")
"
"
"
*
)
*
)"#
)##
)"#
)##
#
#
"
"
')
' !'&&'
' "'#(
')
""'#'
""Φ&'
"!Φ&'
$"! (
!''
!'&&'
" +
&
,
Φ&
#
#
'
$""Φ&'
（１４）
となり，きわめて簡潔な式が得られる．これがバイアス補正項になる．なお，
'$!のときこの値は３／２となるが，これは Anraku（１９９９）の補正項について
の結果に対応している．
#
#
'"
'#
(
(
$
$を求めた場合と同じようにブートストラップ法を適用
次に，"#
，"#
してみる．
&
&
(
(
%"#"%##"!
!
!
"%,#! %
'"#"
!
!
"&-#! %
'##"
$&"#"&##"!
%#!
%#!
&
&
""
#"
#
#
，)!#
も先と同じとする．ここで
とし，)!"
# '
#
#
#
'"
$#$+(
+!
(
"(
!"#
!'""(
#
$
#'#$
"
$
#"
とおく．これを B 回生成する．ここで，（２）より
##
##
#
#
'"
'#
,
.
/
" "-! !
"
)!(
*!(
# '
#
"!!
+(
! +
$(
!'""(
#"
"! +
#
#
#)$" '"
#*$" '#
'"$
'"$
"#
+!
(
"(
+!
(
"(
$"#
$(
#
#'#$
"
#
#'"$
"
$
"!
#
#
#
#
#
#
#
#
&
&
'"
'#
(
(
!(
!(
""
#"
,! "-! "!
"!
!
!
#
#
#
# )!"
# )!#
である．なお先の結果（１４）により，%#の期待値は
&
&
&
"##
$#*
(
$
(
$""Φ&'
""
#$
&について期待値をとると（A．
１）から次が得られる：
となる．これを $
(#!("
"+
$#,
$""Φ' # #
(．
#
#
,)"")#")!"")!#
#
#
$#,
→０，)!#
→０と な り，"+
⇒
こ の 式 か ら ,!，-! を 大 き く す る と き，)!"
"+
$,となる．しかし，任意の %!
& #%#"
'に対して
142
安
楽
和
夫
%%'#
%%#(
%%!"#(
"
"
$'
"
!"Φ'(
$$'
$$'
'(
(
．
Φ'(
&
+ (+$#により決まる d を表すものとすると，
'(は %
ここで，'#
( $'(
"
"
&
'"!'!(
"'(
#&(!!
"(!"
!'
! ,!& (,!
%%'#
$'
"
$' $!
'(
(
" $Φ#
$
"
"
'#
%
'(%
&(!"("
"
"
→０，(!"
→０となり，上の
である．この場合も )!，*! を大きくするとき，(!!
!&(に近づく．この確率も #に依存しない二項確率と考えられる．
式はΦ'
こ の よ う に ブ ー ト ス ト ラ ッ プ 推 定 で は，)! $)，*! $*と す る と き，
"
"'
$(である．また )!，*! を大きくすると，
#'
$#(
$!"Φ! "!!"Φ'(
$#'(
+"
%*に収束するが，一致性は成
ブートストラップ推定量の期待値は期待値 #)
り立たないことがわかる．
５
おわりに
本稿では，２つの正規分布の平均母数順序制約がある場合の最尤推定量
（ORMLE）と情報量基準に関連して導出される統計量の期待値を求めた．ま
たこれらをブートストラップ法で推定した場合の期待値を求めたが，少なくと
もここで設定した方法ではうまく機能しないことが示された．多標本の場合で
も同じ状況が予想される．
%
!，
またブートストラップ標本を生成する際に，'!，'" を，制約のない MLE '
%
&!，'
&" を用いることも考えられる．しかし，こ
'
" に置き換えたが，ORMLE '
こでは用いなかった．理由としては，計算の困難さと，バイアス等の結果がいっ
そう著しくなることが予想されるからである．
なお，ブートストラップ法がうまく機能しない場合が様々に指摘されている
（Bickel and Freedman（１９８１），Beran（１９９７），Ishiguro et al.（１９９７），Andrews
（２０００）他）．一方このような不具合を改善すべくいくつかの方法が提案されて
いる（例えば，Davison and Hinkley（１９９７），Politis et al.
（１９９９），下平（２０１２）
などを参照されたい）
．しかし，このような方法で本稿で取りあげた問題が改
善されるのか，今のところ（少なくとも著者にとっては）不明である．今後の
課題としたい．
2 標本正規分布の平均に順序があるときの最尤推定量の期待値と
ブートストラップ推定について
６
143
補遺
!"
!
)とするとき，
１．%，$を定数とし，#&"(
'
'
!'
!'
%"$
+
%"$
+)
#()
+$+$, %,
!%"$
#)
$, Φ(
.
Φ(
!'
#(
()
$(&#()
+$+
直交変換
$
"
!
&
""$# /""$# +
/
# $$*
$ +#($
"
'
!
!
#
/""$
/""$#
)
!*)の積分領域は
を行うと，(
+
!()
+"%"
&!')
,(%$
,&%
(
(
!
⇒%
%
&
"
/ "$#
と変換されるので，次の関係式を得る：
%
!%"$
#)
$Φ#
.
$.
Φ(
/""$#
（A．
１）
２．積分
'
, #(
%
+"%)
#()
+$+
!'
の被積分関数は次のように表される：
$
+"%) +#
(
#(
$
+"%)
#()
+$ "$&%%
!
! &
&
#
#
#
#
$
% #
%#
"$&% ""$# + $
!
'
#"
(
#$!
&
""$
#
#
#"
("$#)
したがって
'
%#
" $&%
, #(
$
+"%)
#()
+$+$ "
!
%
&
#
!'
#"
("$#)
&/""$
/#
$
% #
""$#
"
+
$
&
%
"
!
'
#
$($+
!' #
""$#
#
""$#)
*"
(
+
) &"
'
#,
となり，次が成り立つ：
144
安
楽
$
# #%
$
#"%&
#%&
#"##
!$
和
夫
%
! #
!
"
)!"$" )!"$"
（A．
２）
３．部分積分により
$
$
!$
!$
# #
$
#"%&
#&#
"##$##%
$
#"%&
#%&
#"#!
$
#"%&
#%&
#"##!# Φ%
%&
Φ%
よって，次を得る．
$
# #
$
#"%&
#%&
#"##
Φ%
!$
%
$
#!
"
"
!
!
"$
)
) "$"
（A．
３）
４．
$
# #"#%&
#&#
"##!'
#
#%&
#(
#"##!# #
#%&
#"#
%&
! "#
#"!
#"!
#"!
（A．
４）
より次が成り立つ：
# #"#%&
#"##Φ%
!
!!&
"!#%&
#"!
（A．
５）
参考文献
Akaike, H.（１
９
７
３）
. Information Theory and an Extension of the Maximum Likelihood
Principle”, In ２nd International Symposium on Information Theory, Ed. B. N. Petrov
and F. Csaki, pp. ２
６
７−８
１. Budapest : Akademiai Kiado.（Breakthroughs in Statistics
１,（１
９
９
２）
. Ed. S. Kotz and N. L. Johnson, pp. ６
１
０−２
４. New York : Springer−Verlag.
に再録）
Akaike, H.（１
９
７
４）
. A New Look at the Statistical Model Identification”, IEEE Transactions
on Automatic Control, AC−１
９,７
１
６−７
２
３.
Andrews, W.K.（２
０
０
０）
. Inconsistency of the bootstrap when a parameter is on the boundary of the parameter space. Econometrica ６
８,３
９
９−４
０
５.
Anraku, K.（１
９
９
９）
. An Information Criterion for Parameters under a Simple Order Restriction”, Biometrika ８
６,１
４
１−１
５
２.
Bickel, P. J. and Freedman, D.A.（１
９
８
１）
. Some asymptotic theory for the bootstrap”, An１
９
６−１
２
１
７.
nals of Statistics ９,１
Beran, R.（１
９
９
７）
. Diagnosing bootstrap sucess. Annals of the Institute of Statistical Mathematics ４
９,１−２
４.
Chernoff, H.（１
９
５
４）
. On the distribution of the likelihood ratio. Annals of Mathematical
2 標本正規分布の平均に順序があるときの最尤推定量の期待値と
ブートストラップ推定について
145
Statistics ２
５,５
７
３−５
７
８.
Davison, A. C. and Hinkley, D.V.（１
９
９
７）
. Bootstrap methods and their applications. Cambridge University Press.
Efron, B.（１
９
７
９）
. Bootstrap methods : Another look at the jackknife. Annals of Statistics
７,１−２
６.
Ishiguro, M., Sakamoto, Y. and Kitagawa, G.（１
９
９
７）
. Bootstrapping log likelihood and
EIC, an extension of AIC”, Annals of the Institute of Statistical Mathematics ４
９, ４
１
１−
４
３
４.
Politis, D.N., Romano, J.P., and Wolf, M.（１
９
９
９）
. Subsampling. Springer, New York.
坂元慶行，石黒真木夫，北川源四郎（１
９
８
３）
，「情報量統計学」
，共立出版．
下平英寿（２
０
１
２）
．マル チ ス ケ ー ル・ブ ー ト ス ト ラ ッ プ の 漸 近 理 論，日 本 統 計 学 会
誌，４
１，４
４
５−４
７
３．
西南学院大学人間科学部児童教育学科
© Copyright 2024 ExpyDoc
