数学
中学生

4×0.041/π×(0.0071)²×19.3=53.66
この式の有効桁数だと答えって53.66ですか?それとも54ですか?

回答

_0.041と0.0071 と19.3とが測定値であり、4が理論値(誤差を含まない値)であるとすると、5.4✕10、が回答となります。

_4も測定値であるとすると、0.5✕10²、が回答となります。

_10進数で、整数部を0〜9にして、○.○○○✕10^xの形で表す表示形式を浮動小数点表示形式と呼びます。
_誤差を含む数値は、基本的に浮動小数点表示形式で表記することが標準です。
_n進数で、整数部を0〜(n-1)にして、○.○○○✕n^xの形で表す表示形式を浮動小数点表示形式と呼びます。

_取り敢えず、以下のリンクのPDFを読んで下さい。
https://www.google.com/url?sa=t&source=web&rct=j&url=https://service.zkai.co.jp/high/juken/mihonpdf/t/vpa.pdf&ved=2ahUKEwj7kNe91Pb6AhUigsYKHZWMBFIQFnoECBgQAQ&usg=AOvVaw2zukiyvRqRtFzLf1P3lWs3

この回答にコメントする
疑問は解決しましたか?