有効数字を考慮した計算の関係です
有効数字の桁数は簡単に言えば、桁数のことです(例外あり)
例えば、
2.35は3桁なので有効数字は3桁
2.0は2桁なので有効数字は2桁
3.00は3桁なので有効数字は3桁
0.25は3桁に見えますが、左にくる0は桁数に数えないので有効数字は2桁
0.0453も同様に有効数字3桁
6.05は有効数字3桁
0.0250は有効数字3桁(右の0は数えて左の0は数えない)
末位とは、
1番右端にくる数字の位です。
例えば、
2.35の1番右端の数は5でこの位は少数第2位だから末位は少数第2位
2.0はの1番右端の数は0でこの位は少数第1位だから末位は少数第1位
3.00はの1番右端の数は0でこの位は少数第2位だから末位は少数第2位
0.0453はの1番右端の数は3でこの位は少数第4位だから末位は少数第4位
で、有効数字を考慮した計算、というのは、
かけ算・割り算は有効数字の桁数が少ない方に合わせる
足し算・引き算は末位が高い方に合わせる
です。
続く
例えば、
2.00+3.0
これは末位が少数第2位+少数第1位ですよね
足し算は計算結果は末位が高い方に合わせるから、
計算結果は末位が少数第1位にします。だから、5.0。
5.00だと末位が少数第2位、5だと末位が1の位ですよね。
11.0+0.50
これは末位が少数第1位+少数第2位ですよね
足し算は計算結果は末位が高い方に合わせるから、
計算結果は末位が少数第1位にします。だから、11.5。
11.50だと末位が少数第2位ですよね。
6.5+5
これは末位が少数第1位+1の位ですよね
足し算は計算結果は末位が高い方に合わせるから、
計算結果は末位が1の位にします。
6.5+5=11.5ですが、末位が1の位になるように四捨五入して、答えは12。
11.5だと末位が少数第1位ですよね。
引き算も足し算と同じく末位が高い方に合わせていきます
分からなければ質問してください
例えば
2.0×3.00
これは有効数字2桁×有効数字3桁ですよね
かけ算は計算結果は有効数字の桁数が少ない方に合わせるから、
計算結果は有効数字2桁にします。だから6.0。
6だと有効数字1桁だし、6.00にすると有効数字3桁になりますよね。
0.4×5.0
これは有効数字1桁×有効数字2桁ですよね
かけ算は計算結果は有効数字の桁数が少ない方に合わせるから、
計算結果は有効数字1桁にします。だから2。
2.0にすると有効数字2桁になりますよね。
0.15×0.35
これは有効数字2桁×有効数字2桁ですよね
かけ算は計算結果は有効数字の桁数が少ない方に合わせるから、
計算結果は有効数字2桁にします。
0.15×0.35=0.0525ですが、有効数字2桁にしないといけないから、
有効数字2桁にするために四捨五入して、0.053。
0.0525だと有効数字3桁ですよね
7.1÷71.0
これは有効数字2桁÷有効数字3桁ですよね
割り算は計算結果は有効数字の桁数が少ない方に合わせるから、
計算結果は有効数字2桁にします。だから0.10。
0.1にすると有効数字1桁になるし、0.100だと有効数字3桁になりますよね
5.0÷0.300
これは有効数字2桁÷有効数字3桁ですよね
割り算は計算結果は有効数字の桁数が少ない方に合わせるから、
計算結果は有効数字2桁にします
5.0÷0.300=16.66666・・・だから、有効数字2桁になるように四捨五入して、17。
16.7にすると有効数字3桁になりますよね。
続く