数学
高校生

有効数字について質問です。
下の例のように繰り上がりがあるような場合に、青波線の3は「不確か」に含めるのでしょうか。そうなると答えの有効数字がおかしくなってしまいます。

含めるのか、 × 0.61② 1.25 3060 1.224 612 0.7650 ↓ 0.77? 有効数字 3ケタ 3ケタ 2ケタ?

回答

基本的に問題文中で何桁で答えよとしていされており、最後にその形に合わせることが多いように思います。
3桁3桁なら最後も3桁にあわせますが…
有効数字単独で扱うと確かに不確かを含めていくとそのようなことになりますね。

estj

これは問題文からの抜粋ではなく、実験データをまとめる際に出てきて困っている状況です。
仰る通り、私も3桁×3桁ならば3桁に合わせるとの認識でして、有効数字について色々調べている中で画像ような筆算方法を見つけて疑問に思った次第です。
回答いただきありがとうございました。

この回答にコメントする
疑問は解決しましたか?