統計解析 第13回 第18章 線形回帰

統計解析 第13回
第18章 線形回帰
今日学ぶこと
•
•
•
•
独立変数、従属変数
最小2乗法
回帰直線
残差
独立変数、従属変数
xi,
yi,
荷の重さ バネの長さ
(ニュートン)
(cm)
(正の)相関
荷の重さ →独立変数
バネの長さ→従属変数
10.7
18
0.2
11.3
16
0.3
12
14
0.4
12.4
0.5
13
0.6
13.7
0.7
14.5
0.8
15.1
0.9
15.6
1
16
バネの長さ(cm)
0.1
12
10
8
6
4
2
0
0
0.2
0.4
0.6
0.8
荷の重さ(ニュートン)
1
1.2
最小2乗法
ただの直線→根拠のある直線
(x3,y3)
e3
(x1,y1)
e2
e1
(x2,y2)
n
2
e
i
i 1
を最小化
→
最小2乗法
回帰直線
y  y  bˆx  x 
(x3,y3)
e3
ただし
(x1,y1)
1 n
y   yi
n i 1
e2
e1
(x2,y2)
1 n
x   xi
n i 1
 n  n 
n xi yi    xi   yi 
 i 1  i 1 
bˆ  i 1
2
n
n


2
n xi    xi 
i 1
 i 1 
n
回帰直線の例
xi
合計→
 n  n 
n xi yi    xi   yi 
 i 1  i 1 
bˆ  i 1
2
n
n


2
n xi    xi 
i 1
 i 1 
10  78.88  5.5 134.3

 6.08
2
10  3.85  5.5
n
yi
xiyi
xi2
0.1
10.7
1.07
0.01
0.2
11.3
2.26
0.04
0.3
12
3.6
0.09
0.4
12.4
4.96
0.16
0.5
13
6.5
0.25
0.6
13.7
8.22
0.36
0.7
14.5
10.15
0.49
0.8
15.1
12.08
0.64
0.9
15.6
14.04
0.81
1
16
16
1
5.5
134.3
78.88
3.85
1 n
y   yi  13.43
n i 1
1 n
x   xi  0.55
n i 1
y 13.43  6.08x  0.55
y  6.08x  10.09
ちょっと練習問題
以下のデータで回帰直線を求めてみよう
ただし、トラクターの数を独立変数、馬の数を従属変数とする
yi
合計
xi
馬の数
トラクター
馬×ト
ト2
66
6
396
36
49
10
490
? 100
44
17
748
289
33
1634
425
159
?
3 1634  33 159
ˆ
b
 1.85
2
3  425  33
1
?
y  159  53
3
1
x   33  11
3
y  53  1?.85x  11
傾きの意味
傾き:xが1増えたときのyの増分
重さが1増えたときの、バネの伸び
25
バネの長さ(cm)
20
15
10
5
0
0
0.5
1
荷の重さ(ニュートン)
1.5
2
残差
(x1,y1)の残差はe1
(x3,y3)
e3
(x1,y1)
残差 = データの値 - 推定値
y  y  bˆx  x 
e2
e1
(x2,y2)
残差の解釈(バネの場合)
物理法則から考えられるバネの伸び
と実測値の差
すなわち計測誤差
ちょっと練習問題
トラクターの数が10の時の残差を求めよ。
馬の数
トラクター
66
6
49
10
44
17
?
傾きの意味は?
?