応用数学 2014 年度第 1 回練習問題解答例情報工学科篠埜功 2014 年 4 月 7 日問１（最小二乗法）以下の３点に最も近い直線を求め、３点とともに図示せよ。近さの尺度としては講義で説明した、y 座標の差の２乗の和 (の半分) を用いよ。 (0, 1), (1, 0), (2, −2) 解答求める関数を f (x) = ax + b、与えられた 3 点を (x1 , y1 ) = (0, 1), (x2 , y2 ) = (1, 0), (x3 , y3 ) = (2, −2) とおく。関数 f (x) と 3 点の y 座標の差の 2 乗和の半分 J= 3 3 1∑ 1∑ (f (xi ) − yi )2 = (axi + b − yi )2 2 i=1 2 i=1 を最小にするような a, b を求めればよい。J を最小にするには、J の a, b での偏微分が 0 になる点を求めればよい。つまり、 ∂J ∂J = 0, =0 ∂a ∂b を解けばよい。まず、a での偏微分は、 3 ∂J ∂ 1∑ = { (axi + b − yi )2 } ∂a ∂a 2 i=1 = 3 1∑ ∂ (axi + b − yi )2 2 i=1 ∂a = 3 1∑ 2(axi + b − yi )xi 2 i=1 = = 3 ∑ i=1 3 ∑ (axi + b − yi )xi (ax2i + bxi − xi yi ) i=1 3 ∑ = a i=1 x2i + b 3 ∑ i=1 xi − 3 ∑ i=1 xi y i 2 -1.5*x + 7.0/6.0 "linear.txt" 1 0 -1 -2 -3 -1 -0.5 0 0.5 1 1.5 2 2.5 3 3 7 図 1: f (x) = − x + と与えられた３点の比較 2 6 である。次に、b での偏微分は、 ∂J ∂b = 3 ∂ 1∑ { (axi + b − yi )2 } ∂b 2 i=1 = 3 1∑ ∂ (axi + b − yi )2 2 i=1 ∂b = 3 1∑ 2(axi + b − yi ) 2 i=1 = 3 ∑ (axi + b − yi ) i=1 3 ∑ = a xi + b i=1 3 ∑ 1− i=1 3 ∑ yi i=1 である。これらを 0 とおくと、 5a + 3b + 4 = 0 3a + 3b + 1 = 0 が得られ、これを解くと、a = − 32 , b = 7 6 となる。よって求める関数は、 3 7 f (x) = − x + 2 6 である。これを 3 点とともに図示すると図 1 のようになる。 2