大学生の塾の勉強コラム

有効数字を理解しよう ( 計算方法 )

 

前回のコラムでは有効数字の表現方法についてご紹介しました。

物理実験や化学実験のレポートなどでは測定値や計算値の有効桁数を重要視されますので、有効数字の表現方法や計算方法について習熟しておく必要があります。

今回は計算方法を中心にご紹介しようと思います。

また、新しく 「 有効桁数 」という言葉を使ってしまいましたので、こちらも合わせて解説していきます。

 

有効桁数とは何か?

突然ですが、あなたが普段使っているシャーペンの芯の長さを定規で測ってみましょう。

一般的な定規は最小目盛りが 1mm ですので、目分量で最小目盛りの 1/10 まで、つまり 0.1 mm まで測定できるでしょう。

60.0 mm よりは長いけど 60.2 mm よりは短い、ということで「 60.1 mm 」ということになるでしょうか。

前回の表現方法のコラムでお話しましたが、これを10のべき乗で表現しようとすると -1乗 になってしまうため、そのまま「 60.1 mm 」と表現すればOKです。

精度を信頼できる桁数は3桁分ということになりますね。

ココがポイント

精度を信頼できる桁数のことを有効桁数と定義しています。

 

有効桁数の例として、

3.8 ・・・ 有効桁数

3.85 ・・・ 有効桁数

3.859 ・・・ 有効桁数

5.32 × 10 4 ・・・ 有効桁数

という具合です。

 

なお「60.1 mm」は「0.0601 m」と単位変換できますが、

6.01 × 10 -2 m

と表現できるため、やはり有効桁数は桁です。

( 1未満の小数の場合、先頭のゼロは有効桁数にカウントしないというルールがあります )

 

有効桁位とは何か?

有効桁数と似たような言葉で、有効桁位があります。

先ほどお話した有効桁数は「桁の数」を表すものでしたが、有効桁位は「桁の位(くらい)」を表すものです。

ココがポイント

何桁目までが精度を信頼できるかを表したものを有効桁位と定義しています。

 

有効桁位の例として、

・ 3.8 ・・・ 有効桁位は小数第1位

・ 3.85 ・・・ 有効桁位は小数第2位

・ 3.859 ・・・ 有効桁位は小数第3位

・ 5.32 × 10 4 ・・・ 有効桁位は第3位(整数表示で 53200 です)

という具合です。

 

なお「60.1 mm」は「0.0601 m」と単位変換できますが、有効桁位は小数第1位から小数第4位へと変わります。

単位変換を行うと有効桁位も変化します。

さて、次に加算・減算・乗算・除算における有効桁数について、誤差範囲の考え方を用いて解説していきます。

 

加算・減算の有効桁数について

約2000kgの自動車に1kgの水を積むと、全体の重量はいくつになるでしょう?

約2001kgですか?

・・・・・・そんなことはないですね。

1kgの水を積んだところで、約2000kgであることに変わりはないでしょう。

 

では次に 「 43 + 3.87 」 という計算の誤差範囲を考えてみましょう。

43 の誤差範囲は 42.5 ~ 43.4999・・・

3.87 の誤差範囲は 3.865 ~ 3.874999・・・

であるため、

43 + 3.87 の誤差範囲は 46.365 ~ 47.374899・・・

となります。

10の位は確実に4であり、また1の位は6または7の可能性がありますが2択であるため、整数部分は何とか信頼できるとみなすことができるでしょう。

さらに詳しく

ということは小数第1位以下は精度を信頼できないことになります。

 

厳密にはこのように誤差範囲を考えることで何位目までが精度を信頼できるか見極めることができますが、毎回このような作業をするのは大変ですよね。

そこで、

ココがポイント

加算・減算の場合はそれぞれの数の中で最も精度が低い数に合わせる

という考え方で代用してしまいます。

具体的には、

さらに詳しく

計算結果を有効桁位の大きい方の数に合わせ、1つ下の位を四捨五入する

という計算方法を採用します。

 

例として、

・ 18 + 5.2 = 23.2 → 23

・ 13.4 + 6.384 = 19.784 → 19.8

・ 15.5 + 13.5 = 29.0

・ 7.123 - 1.4 = 5.723 → 5.7

・ 8.0 + 2.55 - 3.987 = 6.563 → 6.6

といった具合です。

 

乗算・除算の有効桁数について

結論から申しますと、乗算・除算の場合は最も有効桁数が小さい数に着目します。

 

例えば 「 3.35 × 5.2 」 という計算を考えてみましょう。

3.35 の有効数字は3桁で誤差範囲は 3.345 ~ 3.354999・・・

5.2 の有効数字は2桁で誤差範囲は 5.15 ~ 5.24999・・・

であるため、

3.35 × 5.2 の誤差範囲は 17.22675 ~ 17.61374999・・・

となります。

1の位は確実に7でしょうが、小数第1位は2、3、4、5、6の可能性があることにあります。

さらに詳しく

ということは小数第1位以下は精度を信頼できないことになります。

 

加算・減算の時と同様に誤差範囲を考えることで何位目までが精度を信頼できるか見極めることができますが、やはり毎回このような作業をするのは得策ではありません。

そこで、

ココがポイント

乗算・除算の場合はそれぞれの数の中で最も有効桁数が小さい数に合わせる

という考え方で代用してしまいます。

具体的には、

さらに詳しく

計算結果を有効桁数の小さい方の数に合わせ、1つ下の位を四捨五入する

という計算方法を採用します。

 

例として、

・ 14.2 × 5.54 = 78.668 → 78.7

・ ( 8.33×10 -2 ) × ( 8.9 × 10 4 ) = 7.4137 × 10 37.4 × 10 3

・ 1.2 × ( 5.225 × 10 2 ) = 6.27 × 10 26.3 × 10 2

・ 0.4917 × 9 = 4.4253 → 4

といった具合です。

 

いかがだったでしょうか。

今回は四則演算における有効数字についてお話させていただきました。

何度も繰り返しになりますが、実験レポートなどに記載する測定値・計算値はむやみに細かい数値を書くのではなく、お伝えした表現方法を用いるようにしてくださいね。

「誤差範囲」という概念をよく復習するようにしてみてください。

 

お問い合わせ・無料相談
  • この記事を書いた人

斎藤先生

【猫の手ゼミナール講師】斎藤隆先 【出身大学】横浜国立大学大学院工学府システム統合工学専攻博士課程前期修了 【指導科目】数学(微分積分、線形代数):物理(力学、熱力学)

-大学生の塾の勉強コラム
-, , ,