最小二乗法と単回帰分析 - 不動産鑑定士堀田勝己の WEB SITE

最小二乗法と単回帰分析
本稿は、不動産鑑定士の有志で行なっていた不動産金融工学勉強会に
おいて筆者が提出したレジュメに、今回若干加筆したものである。
ヘドニックアプローチによる不動産価格や賃料の推定、取引事例比較法に活用する比準表を作成する
ための要因格差率の推定、収益還元法に用いる割引率や還元利回りを事例から推定する場合など、あら
ゆる場面で回帰分析が有用である。そのベースとなる最小二乗法のカラクリを、数式を丁寧に解くこと
により説明する。
なお、回帰分析等の多変量解析は、テクニックとして金融工学にも有用であるのであって、従来から
様々な分野で広く用いられているものである。
【最小二乗法による回帰式の推定】
ˆx
yˆ =α
ˆ +β
・・・[1]
但し、^のつくものは予測値であることを表す。
上記[1]式は、y と x の間に何らかの関係があることを前提に、y を x で説明しようとするものである。
y を目的変数(従属変数)といい、x を説明変数(独立変数)という。
実測値 yi と予測値 ŷi との差 ei を残差という。
ˆ x +e
yi =α
ˆ +β
i
i
・・・[2]
したがって、
ei = yi − yˆ i
ˆx)
= yi − (α
ˆ +β
i
・・・[3]
残差 ei の平方和(二乗和)を S e とし、下式の S e が最小となるようなα̂とβ̂を求めるのが、最小二
乗法である。
n
n
ˆ x )}2
S e = ∑ ei 2 = ∑{ yi − (α
ˆ +β
i
i =1
・・・[4]
i =1
www.kanteishi.net / 不動産鑑定士堀田勝己の WEB SITE
そのために S e をα̂とβ̂でそれぞれ偏微分してゼロとおき連立方程式を解く。
n
∂S e
ˆ x )} = 0
= −2 ∑{ yi − (α
ˆ +β
i
∂α
ˆ
i =1
・・・[5]
n
∂S e
ˆ x )} = 0
= −2 ∑ xi { yi − (α
ˆ +β
i
ˆ
∂β
i =1
・・・[6]
[5]式、[6]式を整理すると、
正規方程式
ˆ∑ x
ˆ n +β
∑ y i =α
i
・・・[7]
ˆ∑ x
ˆ ∑ xi +β
∑ xi yi =α
i
2
・・・[8]
が得られる。
[7]式より、
α
ˆ=
∑ yi
ˆ ∑ xi = y −β
ˆx
−β
n
n
・・・[9]
但し、 ̄のつくものは、算術平均を表す。
[9]式を[8]式に代入すると、
∑ xi yi = (
∑ yi
ˆ ∑ xi )∑ x +β
ˆ∑ x 2
−β
i
i
n
n
⎧⎪
(∑ xi )2 ⎫⎪
∑ xi ⋅ ∑ yi
2
β̂⎨∑ xi −
⎬ = ∑ xi yi −
n ⎪⎭
n
⎪⎩
ˆ=
∴β
∑ xi yi −
∑ xi ⋅ ∑ yi
n
(∑ xi )2
2
∑ xi − n
・・・[10]
ここで、[10]式右辺分子を、
∑ xi yi −
∑ xi ⋅ ∑ yi
n
= ∑ ( xi − x )( yi − y ) = S xy
とし、
[10]式右辺分母を、
www.kanteishi.net / 不動産鑑定士堀田勝己の WEB SITE
∑ xi
β̂=
2
(∑ xi )2
−
= ∑ ( xi − x )2 = S xx
n
S xy
S xx
とすれば、β̂は、
・・・[11]
と表現できる。 S xy は x と y の偏差積和(各々の平均からの隔たりを掛けたものの和)
、 S xx は x の偏
差平方和(各 x の平均からの隔たりを2乗したものの和)である。
以上より、次の単回帰式の推定式を得る。
ˆ x= y+
yˆ =α
ˆ +β
S xy
S xx
(x − x )
ˆx
Q[9]式 α
ˆ = y −β
・・・[12]
を、[1]式
ˆx
yˆ =α
ˆ +β
ˆ x +β
ˆ x = y +β
ˆ (x − x )
yˆ = y −β
次に、x と y の関係を示す実際のデータ 2 組
に代入すれば、
となるからである。
(x1 , y1 ) (x2 , y2 ) があるものとして、これらから具体的
に式を展開する。無論、たった 2 つの標本から母集団を推定することはできないが、上記一般式が正し
いことを直感的に理解するためである。
⎧ y1 =α+βx1 + e1
⎨
⎩ y 2 =α+βx2 + e2
残差平方和 S e は、
S e = e12 + e2 2
= {y1 − (α+βx1 )}2 + {y 2 − (α+βx2 )}2
= y12 − 2 y1 (α+βx1 ) + (α+βx1 )2 + y 2 2 − 2 y2 (α+βx2 ) + (α+βx2 )2
= y12 − 2 y1 (α+βx1 ) +α2 + 2αβx1 +β2 x12
+ y 2 2 − 2 y 2 (α+βx2 ) +α2 + 2αβx2 +β2 x2 2
www.kanteishi.net / 不動産鑑定士堀田勝己の WEB SITE
S e をαとβでそれぞれ偏微分してゼロとおく。
∂S e
= −2 y1 + 2α+ 2βx1 − 2 y 2 + 2α+ 2βx2
∂α
= −2( y1 + y 2 −βx1 −βx2 − 2α) = 0
∴ y1 + y2 = 2α+β( x1 + x2 )
・・・[13]
→この[13]式は、前記正規方程式の[7]式
∑ y =αn +β∑ x
に等しい。
∂S e
= −2 x1 y1 + 2αx1 + 2βx12 − 2 x2 y 2 + 2αx2 + 2βx2 2
∂β
(
)
= −2 x1 y1 + x2 y 2 −αx1 −αx2 −βx12 −βx2 2 = 0
(
∴ x1 y1 + x2 y 2 =α( x1 + x2 ) +β x12 + x2 2
→この[14]式は、前記正規方程式の[8]式
)
・・・[14]
∑ xy =α∑ x +β∑ x 2
に等しい。
【 S e をαとβでそれぞれ偏微分してゼロとおくことの意味】
Se
∂S e
= 0 (極小)
∂α
0
α
S e の値が極小となるための条件は、接線の傾きが0であること、すなわち1階の微分が0とな
ることである(なお正確には、2階の微分が正(下に凸)であることが暗黙の前提である)
。
以上
www.kanteishi.net / 不動産鑑定士堀田勝己の WEB SITE