データ分析入門（12）第12章単回帰分析廣野元久 1 本章の概要  ２つの量的データのばらつき方に直線的な傾向が見とめられる場合には,その傾向線(回帰直線)を, データから求めよう  回帰直線が計算できれば,その関係を利用して,因果関係の検証や将来の予測を行ってみよう  JMP INを使って散布図に回帰直線を描画する方法や,その解釈を理解する第12章単回帰分析廣野元久高橋行雄 2/25 1.回帰分析       1.1 回帰分析とは 1.2 単回帰分析と重回帰分析 1.3 回帰係数の求め方 1.4 決定係数 1.5 回帰係数の有意性の検定 1.6 回帰分析の利用法第12章単回帰分析廣野元久高橋行雄 3/25 1.１回帰分析とは(1)  回帰分析とは  因果を持つ2つの量的データの直線的関係を表す,直線の方程式を求めること  町の人口とごみ排出量一人当りのごみ排出量がほぼ同じなら,人口が増えれば,それだけごみ排出量は増えるであろう. この関係を式(直線)で表せれば, 将来の町の人口が分かれば,町のごみ排出量が直ちに,推定され,市政に役立つであろう第12章単回帰分析廣野元久高橋行雄 4/25 1.１回帰分析とは(2) 原因に左右されて結果として,ばらつく変量回帰直線被説明変量 or 従属変量 ƒSƒ~Žû W—Ê lŒû‚ÆƒSƒ~Žû W—Ê‚Ì“ñ•Ï—Ê‚ÌŠÖŒW 150000 100000 原因となる変量 Œú–Ø 50000 0 0 100000 300000 l Œû ’¼ ü‚Ì‚ ‚Ä‚Í‚ß 第12章単回帰分析廣野元久高橋行雄 500000 説明変量 or 独立変量 X 5/25  1.１回帰分析とは(3) y Regression Line データ共通の傾向 Normal Distribution データ固有のばらつき(誤差) x 第12章単回帰分析廣野元久高橋行雄 6/25 1.2 単回帰分析と重回帰分析(1) 単回帰分析残差 ε 結果 Y 原因 X 単回帰式ごみ排出量人口 Y  a  bX   定数項誤差項回帰係数傾き第12章単回帰分析廣野元久高橋行雄 7/25 1.2 単回帰分析と重回帰分析(2) 重回帰分析 (原因がたくさんあるという意味) 残差 ε 結果 Y 原因1 X1 原因2 X2 Y  a  b1 X1  b2 X2  結果；ごみ排出量原因；人口商店の数リサイクルの取組み事業所数 etc…. 原因ｐ Xｐ  bp X p   第12章単回帰分析廣野元久高橋行雄 8/25 1.3 回帰係数の求め方(1) S 95％信頼楕円 Smin β０ a ｂ β１最小2乗法のイメージ要因Ｘと特性Ｙについて, n 個のデータ対が得られ, 要因xi (i=1,2,…,n)と特性 yi(i=1,2,…,n)の間に一次関係があると仮定する． yi   0   1 xi   i 式の未知数 0 ,  1 は, yi とその推定値yi との差が全体としてできるだけ小さくなるように決める. S   yi  yˆi   min 第12章単回帰分析廣野元久高橋行雄 2 9/25 1.3 回帰係数の求め方(2) y 回帰直線 y 残差は,垂直方向最小めのこ残差は,直線の方向最小 x x 回帰直線はめのこで引いてはいけない第12章単回帰分析廣野元久高橋行雄 10/25 1.4 決定係数(1)   従属変数Yの平方和Sは,回帰で説明できる部分と,回帰では説明できない部分に分解できる. 決定係数は,従属変数Yの平方和のうち,回帰で説明できる平方和の割合を示すもの回帰で説明がつく平方和 SR 決定係数R   従属変量Yの平方和 ST 2 第12章単回帰分析廣野元久高橋行雄 11/25 1.4 決定係数(2) y + = Ave. 従属変数Yの平方和回帰の平方和残差平方和傾きがない：説明力0＝0  R2  1＝残差がゼロ：点は直線上にある第12章単回帰分析廣野元久高橋行雄 12/25 1.5 回帰係数の有意性の検定  傾きｂの検定帰無仮説Ho：回帰直線の傾きは0であるｂ＝0 (説明変量ｘに,従属変数ｙを説明する力はないｘとｙは無関係)  対立仮説H1：回帰直線の傾きは0でないｂ＝0  帰無仮説が棄却された：回帰直線はYのばらつきを説明するのに有効帰無仮説が棄却できない：回帰直線はYのばらつきを説明のに有効でない第12章単回帰分析廣野元久高橋行雄他の変量を探索 13/25 1.6 回帰分析の利用法  因果の確認  知識経験として,因果が想定される2変量が,実際に因果があるかどうかをデータから判断できる金属の抵抗値は,周辺の温度に依存する  予測  回帰式が有効なら,それを予測に用いることができる周辺温度が100℃のときの抵抗値を予測できる  制御  説明変量をある値に固定すると,従属変動のばらつきは小さくなり,平均値も目的の値に留めることができる抵抗値が100Ωになるように,周辺温度を50℃に制御する(工場の製品管理などに使われる) 第12章単回帰分析廣野元久高橋行雄 14/25 2 単回帰分析の操作 2.1 単回帰分析の操作  2.2 回帰分析の結果の書き方  2.3 信頼区間曲線の表示  2.4 残差の分析  第12章単回帰分析廣野元久高橋行雄 15/25 2.1 単回帰分析の操作（1）  廃棄物処理.jmpをロードする第12章単回帰分析廣野元久高橋行雄ここをクリック 16/25 2.1 単回帰分析の操作（2） 1.人口をクリック 2.Xをクリック 6.ゴミ収集量の役割が決まる 7.OKボタンを押す 3.人口の役割が決まる 4.ゴミ収集量をクリック 5.Yをクリック第12章単回帰分析廣野元久高橋行雄 17/25 2.1 単回帰分析の操作（3） 1.人口とゴミ収集量の散布図が表示される 2.ここをクリックする 3.直線のあてはめをクリックする ƒSƒ~Žû W—Ê lŒû‚ÆƒSƒ~Žû W—Ê‚Ì“ñ•Ï—Ê‚ÌŠÖŒW 4.回帰直線が表示される 150000 100000 Œú–Ø 50000 0 0 100000 300000 500000 lŒû ’¼ ü‚Ì‚ ‚Ä‚Í‚ß 第12章単回帰分析廣野元久高橋行雄 18/25 2.1 単回帰分析の操作（4）回帰式 ’¼ ü‚Ì‚ ‚Ä‚Í‚ß ƒSƒ~Žû W—Ê = 4811.3843 + 0.2998754 lŒû ‚ ‚Ä‚Í‚ß‚Ì—v–ñ R2 æ 0.96675 Ž©—R“x’² ®R2 æ 0.964375 Œë ·‚Ì•W €•Î ·(RMSE) 7598.027 Y‚Ì•½‹Ï 58831.5 ƒIƒuƒUƒx [ƒVƒ‡ƒ“(‚Ü‚½‚Í d‚Ý‚Ì ‡Œv) 16 •ªŽU•ª Í —vˆö Ž©—R“x •½•û˜a •½‹Ï•½•û F’l ƒ‚ƒfƒ‹ 1 2.3499e+10 2.3499e10 407.0500 Œë · 14 808220268 57730019 p’l(Prob>F) ‘S‘Ì( C ³ Ï‚Ý) 15 2.43072e10 <.0001 ƒpƒ‰ƒ [ƒ^ „’è’l € „ ’è’l •W €Œë · t’l p’l(Prob>|t|) Ø•Ð 4811.3843 3282.865 1.47 0.1649 切片 lŒû 0.2998754 0.014863 20.18 <.0001 人口1人増加するとごみは0.29988ｔ増加する決定係数R2 標準誤差回帰で説明できない残差の標準偏差回帰係数の検定結果回帰係数 :定数項人口:傾き傾きのｐ値が<.0001と非常に小さいので高度に有意回帰直線は意味がある第12章単回帰分析廣野元久高橋行雄 19/25 2.2 回帰分析の結果の書き方  書き落としてはいけないこと回帰式  回帰係数のｔ値(あるいは,標準誤差)  決定係数  標準誤差  ゴミ収集量  4811.38  0.29988人口 t値 1.47  20.18 R2  0.967 第12章単回帰分析廣野元久高橋行雄 S.E.  7598 20/25 2.3 信頼区間曲線の表示(1) 1.直線のあてはめの▼マークをクリック ƒSƒ~Žû W—Ê 2.回帰の信頼区間をクリック 150000 100000 Œú–Ø 50000 0 0 100000 300000 500000 lŒû 第12章単回帰分析廣野元久高橋行雄 3.95％の信頼区間曲線が表示される 21/25 2.3 信頼区間曲線の表示(2) 1.ここをクリック 2.平均のあてはめをクリック 3.Yの標本平均が表示される ƒSƒ~Žû W—Ê lŒû‚ÆƒSƒ~Žû W—Ê‚Ì“ñ•Ï—Ê‚ÌŠÖŒW 150000 100000 標本平均の線の全域が信頼区間曲線内に含まれるとき Œú–Ø 50000 0 0 100000 300000 500000 lŒû ’¼ ü‚Ì‚ ‚Ä‚Í‚ß •½‹Ï‚Ì‚ ‚Ä‚Í‚ß 第12章単回帰分析廣野元久高橋行雄回帰の傾きは有意ではない 22/25 2.4 残差の分析（1）目的  回帰モデル(回帰直線)がデータによく当てはまっているかどうかのチェックを行う 1.ここをクリック 2.残差プロットをクリック 3.残差プロットが表示される Žc ·  20000 15000 10000 5000 0 -5000 -10000 Œú–Ø 0 100000 200000 300000 400000 500000 lŒû ラベルで外れ値を表示良いモデルは残差のプロットはランダムである第12章単回帰分析廣野元久高橋行雄 23/25 2.4 残差の分析（2）  外れ値の特徴を調べる  データの背後にある知識を活用して,外れ値の特徴を調べる  この例では  厚木,大和,小田原,鎌倉ホテルや歓楽街観光地第12章単回帰分析廣野元久高橋行雄観光客などが多いごみを出す人口にカウントされていない 24/25 2.4 残差の分析（3）  系列相関  時系列データの場合には,残差に波状の系列相関が現れることがある  自己相関モデルを追加するなどの特殊なテクニックが必要  不等分散  残差が説明変量の値に従い大きくなる  対数変換や2次項の追加などの変数変換が必要第12章単回帰分析廣野元久高橋行雄 25/25