追加例題:最小二乗法によるデータ分析

データの分析(最小二乗法)
y
y=ax+b
実験で左図のように得られた
結果を表す直線(赤線)を引く
にはどのようにしたら良いか?
(傾きa,切片bはどのように求め
たら良いか?)
x
y
E4
E2
E1
1)各測定値と直線の差を最小
とするようにa,bを決める。
E5
2)また,差は正負あるため,
差を二乗した値により評価す
る.
E3
x
1
y
N
E5
E4
J

Ei2 を最小にするa,bを求めたい.
i 1
E2
E3
E1
N:データの総数
yobs:測定値
x
式を展開すると
N
J

N

Ei2
i 1
N

( y 
 ax  b
2
i
 ax 
2
i
i 1

yiobs) 2
i 1
i 1
N

i
N

 2 yi yiobs 
yi2
 
obs 2
yi
i 1
 2axi  b 
yiobs 
 
obs 2
yi
 2abxi  b  2axi  b 
2
yiobs 
 
obs 2
yi
2
Jを最小とする未定係数a,bを求めるため,
Jのa,bに対する微分を計算する.
(Jが最小となる場合は,各未定定数に対する微分値が零となる(Jの各変数に対する傾きがな
い)ことを意味する.)
J

a
N

i 1
 
 
2
2
obs
obs 2 
 axi   2abxi  b  2axi  b yi  yi

a 


N

2 axi2  bxi  xi yiobs

i 1
J

b
N

i 1
 
i 1

xi yiobs   0


 

2 axi  b  yiobs
i 1

N
 
2
2
obs
obs 2 
 axi   2abxi  b  2axi  b yi  yi

b 

N

N
 N
 2 a
xi2  b
xi 

i 1
 i 1

 N
 2 a
xi  bN 

 i 1

N

i 1

yiobs   0


3
以下の連立方程式を解くことで,Jを最小とする(誤差の二乗
和の値を最小とする)未定係数a,bが求まる.
N
a

N
xi2  b
i 1
N
 
xi 
i 1

・・・(1)
i 1
N
a
xi yiobs  0
N
xi  bN 
i 1

yiobs  0 ・・・(2)
i 1
(2)式より
N
b

N
yiobs
i 1
N
a

x
i
i 1
N
・・・(3)
4
(3)式を(1)式に代入すると
N
a

N
xi2  b
i 1
 
xi 
i 1
N
a
N

i 1



xi2  




xi yiobs
i 1
N


a
xi  N

 i 1 
xi 
N 
 i 1


N
yiobs
i 1
N

N
 
xi yiobs  0 ・・・(4)
i 1
よって,(4)式より未定係数aは
a
1
N
N
N
 
xi
i 1
1 
N

N
yiobs 
i 1
N

i 1

N
xi yiobs
i 1
2

xi  


N

i 1
xi2
N
 
xi

i 1
N
yiobs  N
i 1




N

i 1

xi yiobs
i 1
2

xi   N


・・・(5)
N

i 1
xi2
5
また,(1)式より,
N
a

N
xi yiobs
i 1
N

b

xi2
i 1
x
i
i 1
N

・・・(6)
xi2
i 1
(2)式に,(6)式を代入すると,
N
a

N

yiobs
xi yiobs

b

 
xi  bN 
i 1
i 1
N
N
 
xi

i 1
i 1
N

i 1
xi2
N

i 1
N

i 1
2

xi 

  bN 
xi2
N

yiobs  0
・・・(7)
i 1
6
N
(7)式より
N
 
xi
i 1
xi yiobs
i 1
N

N


yiobs
i 1
xi2
i 1
b




N

i 1
N

2

xi 

 N
xi2
i 1
上式を見やすい形に整理すると
N
N
 
xi
b
i 1
N
xi yiobs 
i 1




N

i 1
N
 
xi2
i 1
2

xi   N


i 1
N

i 1
xi2
yiobs
・・・(8)
7
よって,誤差の差の二乗和を最小にする
未定係数a,bは(5),(8)式より以下のようになる.
N
N
 
xi
a
i 1
yiobs  N
i 1




N

i 1
N
2
i 1
xi2
i 1
N
xi yiobs 
i 1




N

N
 

xi yiobs
i 1

xi   N


xi
b
N
N

i 1
N
 
xi2
i 1
2

xi   N


yiobs
i 1
N

xi2
i 1
8
例題
x
8
yobs
7
0.0
1.0
0.2
1.9
5
0.4
3.2
4
y
6
3
0.6
4.3
0.8
1.0
2
測定値と近似直線y=ax+bの誤差を最小にする
4.8
1
傾きa, 切片bの値はいくらになるか?
6.1
0
0
0.2
0.4
0.6
0.8
1
1.2
1.4
x
1.2
7.2
あるxに対する測定値yobsが表のように得られたとする.
上記のデータをy=ax+bにより表すとき,
誤差の二乗和を最小とする未定係数a,bを求めよ.
(正解) y=5.11x+1.01
9