4測定値の計算
(1) 5.2 (2) 8.7 (3) 6.4 (4) 8.7
(5) 0.17 (6)0.667
解答
指針測定値の足し算 引き算では,計算結果の未
位を,最も末位の高いものにそろえる。掛け算 割り
算では,計算結果の桁数を, 有効数字の桁数が最も少
ないものにそろえる。
|解説((1) 3.6+1.6=5.2
(2) 5.2+3.46=8.66
小数第2位の6を四捨五入 8.66 → 8.7
(3) 7.2-0.76=6.44
小数第2位の4を四捨五入 6.44 →
(4) 6.2×1.4=8.68
小数第2位の8を四捨五入 8.68 → 8.7
(5) 0.050×3.3=0.165
小数第3位の5を四捨五入 0.165 →
(6) 4.00-6.00=0.6666
小数第4位の6を四捨五入 0.6666 → 0.667
6.4
→ 0.17