計測工学 -測定の誤差と精度1計測工学 2010年5月10日 Ⅰ限目 授業内容 前回の続き 2.1 数値計算における誤差 2.2 計算過程での誤差 2.3 測定の精度 数値と接頭語の使い方 単位の 接頭語(乗数) 倍 数 接頭語 名称 記号 1030 - 10-1 d 1027 - 10-2 c 1024 Y 10-3 m 1021 Z 10-6 μ 1018 E 1015 P 1012 T 109 G 106 M 103 k 102 h 101 da 10-9 10-12 n p 10-15 f 10-18 a 10-21 10-24 z y 英語 数値と接頭語の使い方 単位の 接頭語(乗数) 100 * 倍 数 接頭語 名称 記号 英語 1030 グルー チョ - Grouch o 1027 ハーポ - Harpo 1024 ヨッタ Y Yotta 1021 ゼッタ Z Zetta 1018 エクサ E Exa 1015 ペタ P Peta * 10-1 デシ d Deci 10-2 センチ c Centi 10-3 ミリ m Milli 10-6 マイクロ μ Micro 10-9 ナノ n Nano 1012 テラ T Tera 10-12 ピコ p Pico 109 ギガ G Giga 10-15 フェムト f Femto 106 メガ M Mega 10-18 アト a Atto 103 キロ k Kilo 10-21 ゼプト z Zepto 102 ヘクト h Hecto 10-24 ヨクト y Yocto 101 デカ da Deca 数値と接頭語の使い方 数値は0.1~1000の間に入るように選ぶのが 望ましい – 1.2×104 N → 12kN – 0.00394m → 3.94mm – 1401 Pa → 1.401 kPa 機械力学におけるSI組立単位 速度[m/s] , 加速度[m/s2] 質量[kg] , 力[N]=[kg・m/s2], モーメント[N・m] 力の単位の換算 1[kgf] = 9.80665[N] 周波数、振動数[Hz]=[/s] 回転速度[rpm] revolution per minute [rps] revolution per second 減衰係数 [N・s/m]または[kg/s] 授業内容 2.1 数値計算における誤差 2.2 計算過程での誤差 2.3 測定の精度 2.1 数値計算における誤差 2.1.1 誤差とは 2.1.2 四捨五入と切り捨てによる誤差 2.1.3 有効数字 2.1.4 有効数字のしくみ 2.1 数値計算における誤差 2.1.1 誤差とは 2.1.2 四捨五入と切り捨てによる誤差 2.1.3 有効数字 2.1.4 有効数字のしくみ 2.1.1 誤差とは 誤差(error):測定値の不確かさ 測定値から真の値を差し引いたもの 2.1.1 誤差とは (1)母集団(population) 同一条件下で求められるべきすべて(無限個) の測定値 (2)標本(sample) 同一条件下でランダムに抽出される有限個の 測定値 正確な母集団を収集することは不可能なため、 標本を用いる 2.1 数値計算における誤差 2.1.1 誤差とは 2.1.2 四捨五入と切り捨てによる誤差 2.1.3 有効数字 2.1.4 有効数字のしくみ 2.1.2 四捨五入と切り捨てによる誤差 数値の丸め(rounding):四捨五入が一般的 (1) 与えられた数値が1つしかない場合: 正の数値:単純に四捨五入 負の数値:絶対値に四捨五入 e.g. 表2.1:丸めの幅に注意 2.1.2 四捨五入と切り捨てによる誤差 数値の丸め:四捨五入が一般的 (2) 与えられた数値が2つの隣り合う整数倍: 偶数倍の方を選択 e.g. 12.25, 12.45 2.1.2 四捨五入と切り捨てによる誤差 数値の丸め:四捨五入が一般的 (3) 丸めは常に一回のみとする e.g. 2.445 2.1.2 四捨五入と切り捨てによる誤差 数値の丸め:四捨五入が一般的 (3) 丸めは常に一回のみとする e.g. 2.445 複数回の丸めによって 2.5 と 3.0と誤差が大きくなり得る 2.1.2 四捨五入と切り捨てによる誤差 数値の丸め:四捨五入が一般的 (4) 末端数値が5のときは注意 e.g. 2.445 複数回の丸めによって 2.5 と 3.0と誤差が大きくなり得る 2.1.2 四捨五入と切り捨てによる誤差 数値の丸め:四捨五入が一般的 (4) 末端数値が5のときは注意 1つ上の桁が… 1) 奇数 ⇒ 切り上げる 2) 偶数 ⇒ 切り捨てる e.g. 12.335, 12.345 2.1.2 四捨五入と切り捨てによる誤差 数値の丸め:四捨五入が一般的 (4) 末端数値が5のときは注意 1つ上の桁が… 1) 奇数 ⇒ 切り上げる 2) 偶数 ⇒ 切り捨てる e.g. 12.335, 12.345 2.1 数値計算における誤差 2.1.1 誤差とは 2.1.2 四捨五入と切り捨てによる誤差 2.1.3 有効数字 2.1.4 有効数字のしくみ 2.1.3 有効数字 有効数字(significant figure): 初めて誤差が入ってくる桁までとった数字 e.g. 12.3, 2.34, 0.0456, 789×10 2桁までは正しく,3桁目が怪しい 2.1.3 有効数字 (1) 例の125.7mmは算術数で表現されるmm の単位と目分量の小数点以下にて構成 (小数点以上は正確、以下は不正確) 125 126 2.1.3 有効数字 (1) 例の125.7mmは算術数で表現されるmm の単位と目分量の小数点以下にて構成 (小数点以上は正確、以下は不正確) 125 126 2.1.3 有効数字 (1) 例の125.7mmは算術数で表現されるmm の単位と目分量の小数点以下にて構成 (小数点以上は正確、以下は不正確) 125.70mmとすると、0.7mmまで正確 125 126 2.1.3 有効数字 (2) 工学系の有効数字:3~4桁。 3桁でとめるのが通常。粗い推定では2桁 (3)演算を施す定数π、√…1~2桁多くとって計算し、 結果を四捨五入し有効数字を制限 2.1 数値計算における誤差 2.1.1 誤差とは 2.1.2 四捨五入と切り捨てによる誤差 2.1.3 有効数字 2.1.4 有効数字のしくみ 2.1.4 有効数字のしくみ 真値T1, T2を測定 それぞれの測定値M1, M2 それぞれの測定誤差ε1,ε2 とする T1 = M1±ε1, T2 = M2±ε2 T1 の範囲: (M1-ε1) < T1< (M1+ε1) 2.1.4 有効数字のしくみ 和差:総合誤差として誤差の加算を行う T1±T2≒(M1±M2)±(ε1+ε2) 積: T1×T2≒M1M2±(M2ε1+M1ε2) 商: T1/T2 ≒ M1/M2±ε ε=M1/M2(ε1/M1+ε2/M2) ε:総合誤差, ε1/M1,ε2/M2:相対誤差
© Copyright 2025 ExpyDoc