化学
大学生・専門学校生・社会人
解決済み

有効数字での誤差で許容される範囲が知りたいです

有効数字

回答

✨ ベストアンサー ✨

それはどのくらい厳密な計算を要請するか?に依存しています。ちょっとした重量測定なら測定器のばらつきの範囲くらいで単純にきめられます。
しかしながら、計算処理のなかで誤差は伝搬する特性があるので、一次誤差がわずかでも、全体としての誤差はかなり大きくなることがあります。

誤差1%の精度での有効数字で100段階の掛け算をやってみると、0.99^100 = 0.36となって、相当な誤差があることがわかります。同じく0.1%なら0.999^100 = 0.90です。

航空宇宙工学あたりなら、これでも許されないので、この1000倍くらいの精度を得られる有効数字を使うことになるわけです。

てぃるる

回答ありがとうございます!!!
私の場合は単に大学入試の化学の問題で、 例えば小数点以下第2位までで答える場合 四捨五入の影響で答えが大きくずれることがあって 質問しました。。
この場合計算の途中で四捨五入して良いのはどこまででしょうか、、、??、

この回答にコメントする
疑問は解決しましたか?

この質問を見ている人は
こちらの質問も見ています😉