有効数字を考慮した計算について
以下の議論において、1.0000････や 3.3333････のような無限桁精度の数値は、
・
・
1.0 や 3. 3 のように、上にドットを付けて表示する。
１．
数学的な数値と、データとしての数値
たとえば ｙ＝(１＋χ)/(５－ｚ) という式があり、χとｚ(独立変数)に実験値を当てはめて
ｙ(従属変数)を求める場合を考えよう。この数式に含まれている「１」や「５」は数学的数値
・
・
であり、有効数字の概念からはそれぞれ無限桁精度の「1.0」ないし「5.0」に相当する。ただ
の一桁精度ではない。ただし、このように解釈されるのは理論的に導かれた数式（解析解）で
・
・
あって、
「１」や「５」が整数（≡無限桁精度の「1.0」ないし「5.0」）である場合に相当する。
そうではなく実験式であって、ｙ＝(1.00＋χ)/(5.00－ｚ)
は、それぞれ 1.00，5.00 そのままの３桁精度である。
などのように書かれている場合
２． 加法（足し算）における計算
① 計算準備
a) 最初から概数である数値の取り扱い： 全ての数値を○.○○…×１０Δの形に整理する。
3375 千 → 3375000 → 3.375×106 （3.375000×106 では無い）
4 桁精度概数
000 は数値と 4 桁精度
して意味が無い
b) 一般的な数値の取り扱い： 同じく、全ての数値を○.○○…×10χの形に整理する。
123456 → 1.23456×106
978.65 → 9.8765×102
123000 → 最後の ”000” に意味があるのか、それとも元々が概数であるのか［上記の a)に
相当］判断する必要がある。意味があるなら 1.23000×106，概数であるなら
1.23×106 である。
c) χの統一： いずれの場合でも、χを大きい方の数値に統一する。
例) 12345＋9.876×102 → 1.2345×104＋0.09876×104
ﾀﾞﾒ) 12345＋9.876×102 → 123.45×102＋9.876×102
例) 123 千＋9.876×102 → 1.23×105＋0.009876×105
② 計算： 小数点以下の桁数が小さい方に合わせて概数化する。
例) 1.2345×104＋0.09876×104 ＝ 1.33326×104 ≒ 1.3333×104
小数点下 4 桁 小数点下 5 桁 この 4 桁を採用 小数点下 4 桁
答えの「1.3333×104」は、全部で 5 桁の有効数字
③ 繰上り計算がある場合
例) 9.8765×104＋8.76543×104 ＝ 18.64193×104 ≒ 1.86419×105
小数点下 4 桁 小数点下 5 桁
この 4 桁を採用 繰上りで桁が増えた
5
答えの「1.86419×10 」は、全部で 6 桁の有効数字。
３．
減法（引き算）における計算： 加法の場合と同じ。ただし、今度は「繰下り」による有
効桁の減少がありうる。
例) 5.43210×104－4.5678×104 ＝ 0.86430×104 ≒ 8.643×103
小数点下 5 桁 小数点下 4 桁 この 4 桁を採用
繰下りで桁が減った
(全部で 6 桁)
(全部で 5 桁)
全部で 4 桁になった
４．
乗除（掛け算・割り算）における計算： 全体の有効桁が一番少ない数値に合わせる。
例) 3.4567×98.7654×45.67÷1234.567＝12.62940423≒12.63＝1.263×101
全5桁
全 6 桁 全 4 桁 全 7 桁 この 4 桁を採用
全4桁
数式が乗除だけで出来上がっているときは、上の例のように直接計算していって、最後に有効
数字桁数を判断すればよい。(注)何処の国でも二桁の数字は言いやすいようで、たとえば米国
人は 3000 を three thousand というより、thirty hundred と言い慣わしている(通貨の単位と
も関係する)。そこで、126.3 であると 1.263×103 なのだが、12.63 だと 1.263×101 とはせず
にそのまま 12.63 とすることが多いようである。決して推奨しないが････。
次は、これまで述べたことの例外。
・
★ 繰 り 返 し 単 位 が ぴ っ た り 60 個 ( ＝ 60. 0 ， 無 限 桁 ) で あ る エ チ レ ン の オ リ ゴ マ ー ，
（2，60 は整数･無限桁精度）
H-(CH2CH2)60-H，の分子量を求めよ。
原子量 C：12.011，H：1.008 C120H242（120 と 242 も無限桁精度）
・
・
Mw＝12.011×120.0＋1.008×242.0＝1441.320＋243.936＝1685.256
5桁
無限桁 4 桁 無限桁
7桁
6桁
7桁
なぜ解答は 7 桁になるのだろうか？
水素原子が 10 個 ⇒ 1.008×10＝10.080 ?? 1.008 を 10 回足し算すると当然ながら繰り上
がりを生じて 10.080 となる。
「×10」は、
「掛け算」の定義にしたがえば「10 回足し算」と同
じ意味のはずである。したがってその分だけ、有効数字が大きい桁に向かって増えることにな
る。このように、『無限桁数字』との掛け算は繰り上がりによって有効数字桁数が増えるこ
とがある。
・
★それでは、1441.320÷120.0 はどうなる？
7桁
Ans.＝12.01100
無限桁
５．
複合計算： 下記の例では分母の部分計算で出される 1.124922 が 3 桁精度しかないので、
最終の答えは 3 桁精度になる。
3.141593×1.732÷(1.2345×9.876－11.067)
＝5.441239076÷(12.191922－11.067)＝5.441239076÷1.124922＝4.836992321
≒4.84
(注意１) 上記の複合計算は比較的簡単な例である。加減を含む部分計算［ここではカッコ内］
は、２．に準じて予め○.○○…×10χの形に統一した方が良い。
(注意２) 部分計算の段階で概数にしないこと。⇔ 重要!! たとえば上記の例でいえば､最終
段の計算を「5.441÷1.12」としてはならない。あくまでも計算自体は
「5.441239076÷1.124922」とし、最後に概数にする。途中、5.441239076 のように書
くのは、有効桁判断の助けにするためである。
６．
ベキ数の有効桁判断：
ベキ数には二通りの表示方法がある。
(a) 4.47×103 （3 は整数・無限桁精度）
(b) 103.650
(a)は誰でも理解しやすい形式だが、(b)は小数を伴うベキ数の取り扱いを間違えやすい。
定義より、103.650＝100.650×103＝4.4668×103≒4.47×103（3 は整数・無限桁精度）になる。答え
が３桁精度となっているのは、3.650 というベキ数を整理して 103 を分離した残りのベキ数が
３桁の 0.650 だからである。
実例を示そう。
4.00×10－5mol の(CF3)3CO-H (Ka＝10－5.40) 溶液の pH を求めてみる。[H+]＝ｘとするとき、
Ka＝10－5.40＝ｘ2／(4.00×10－5－ｘ)，整理して、
ｘ2＋10－5.40ｘ－10－5.40×4.00×10－5＝0
ここで出現した 10－5.40×4.00×10－5 という項の取り扱いはどのようにすべきだろうか？
① 4.00×10－5 においては、4.00 が有効数字の桁数を決めており、もちろん 3 桁である。
・
10－5 の「－5」はベキ数であって－5.0 と考えてよい。
② 10－5.40 は、○.○○…×10χの形に変換する必要がある。10－5.40＝100.60×10－6 であるから、
100.60＝3.98107…、すなわち 10－5.40＝3.98107×10－6(＝4.0×10－6)である。注意点は、上記
の赤字部分で示した通り、有効数字はたったの二桁であること。
考え方としては①，②のようになるが､この時点ではどうせ途中計算である。それならば、現
・
時点では 10－5.40×4.00×10－5＝4.00×10－10.40 としておけば良いだろう。「－5.40」は－5.0＋
・
0.40 であり、「－5」はそのまま「－5.0」を意味しているのであるから、ベキ数部分の足し算
は
・
・
・
－5.40＋(－5.0)＝(－5.0＋0.40)＋(－5.0)＝－10.40
で良い。
二次方程式を解いて、
χ＝{－10－5.40＋(10－10.80＋4×4.00×10－10.40)1/2}／2
χ＝{－10－0.40＋(10－0.80＋16.0×10－0.40) 1/2}×10－5／2
χ＝{－0.398107＋(0.158489＋6.369715) 1/2}×10－5／2
χ＝{－0.398107＋(0.158489＋6.369715) 1/2}×10－5／2
χ＝1.078464×10－5
pH＝－logχだから、
・
pH＝－logχ＝－log(1.078464×10－5)＝5.0－0.032806＝4.967194＝4.967
［最後の解答が 4.967 であって、4.9672 ではないことに注意せよ！］ 上の計算のうち、二
行目の赤字部分に注目してもらいたい。この段階で×10－5 を統一項にまとめる工夫を行って、
以後の計算をやりやすくしている。計算間違いの多い人は、式上での工夫をせずに、やみくも
に数値化してインプットミスをする。あるいは、やみくもに数値化したために、有効数字桁数
を間違える。さらにはベキ数を間違えて、本来の正解数値の 10 倍にしたり、逆に 1/10 にして
しまう。これらは致命的な間違いに直結する。
log(自然対数)計算： 水の pKa を求めてみる。
７．
・
解離積(Kw)＝1.0×10－14、水の分子量を 18.02 とすると、
Ka＝1.802×10－16 であるから、
pKa＝－log(Ka)＝－log(1.802×10－16)＝－log(1.802)－log(10－16)
＝－0.255754786＋16＝15.74424521≒15.7442
ここで出現する「16」はベキ数(＝整数)に由来し、定義から数学的数値である。したがって、
・
ただの「16」ではなく、無限桁精度の「16.0」と考えて計算する。
【逆計算】
自然対数が 3.4567 である元の数値は？
logｘ＝0.4567(4 桁精度)，ｘ＝2.862200149，したがって元の数値は、
2.862×103 となる。（注意）3.4567 は 5 桁精度であるように見える。しかし、最初の「3」
はベキ数に相当する部分なので、「桁精度」の中には数え入れない。
© Copyright 2024 ExpyDoc
