Question

にゃる

0.86/√100=0.086
この式の有効桁数だと答えは0.086ですか？それとも0.09ですか？

Answer 1

ぺんぎん

＿0.86が測定値であり、100が理論値(誤差を含まない値)であるとすると、8.6✕10^(-2)、が回答となります。

＿10進数で、整数部を0〜9にして、○.○○○✕10^xの形で表す表示形式を浮動小数点表示形式と呼びます。
＿誤差を含む数値は、基本的に浮動小数点表示形式で表記することが標準です。
＿n進数で、整数部を0〜(n-1)にして、○.○○○✕n^xの形で表す表示形式を浮動小数点表示形式と呼びます。

＿取り敢えず、以下のリンクのPDFを読んで下さい。
https://www.google.com/url?sa=t&source=web&rct=j&url=https://service.zkai.co.jp/high/juken/mihonpdf/t/vpa.pdf&ved=2ahUKEwj7kNe91Pb6AhUigsYKHZWMBFIQFnoECBgQAQ&usg=AOvVaw2zukiyvRqRtFzLf1P3lWs3

Answer 2

mo1

＞0.86/√100=0.086

＞この式の有効桁数だと答えは0.086ですか？それとも0.09ですか？

2桁と考えられますので、2桁の数字{8，6}を用いて、0.086