(a) 足し算・引き算 計算結果の末位を、最も末位の高いもの
にそろえる。
な問題を取り
〈例〉 12.1cm+2.55cm=14.65cm
14.7cm
最も末位の高い数値は12.1である。 計算結果14.65 の末位
をこの数値にそろえるためには,小数第2位の5を四捨五
入して, 14.7とする。
+)
12.1
2.55
1 4.65
7
(b)掛け算・割り算 計算結果の桁数を, 有効数字の桁数が最
も少ないものにそろえる。
〈例〉 45.1cm×6.8cm=306.68cm² 3.1×102cm²
有効数字の桁数が最も少ない数値は6.8である。 計算結果
306.68 の桁数をこの桁数にそろえるためには,1の位の6
を四捨五入して, 310=3.1 × 102 とする。
: 誤差を含む部分
x)
45.1
6.8
36.08
27 0.6
306.68
(c) 定数を含む計算や√2のような定数は、 測定値の桁数
1