学年

教科

質問の種類

化学 大学生・専門学校生・社会人

至急 有効数字について この問題だと有効数字の幅が8.35〜8.45で、実際の誤差幅は8.27〜8.51です。 有効数字は数値がどこまで信頼出来るかを示した物だと思うのですが、仮に体積が8.51だったら、有効数字で示した値の中に答えが含まれていないことになります。 これは... 続きを読む

問題1-10 電卓を用いて以下を計算せよ. (1) 2÷7 (2) 直方体の体積を求めるために, Aさんが縦の長さ, Bさんが 横 Cさんが高さを測定した. 彼らはそれぞれ10cm, 1cm, 0.1mm刻みの精度の異なったものさし定規を用いて測定してし www 10cm まい, これらの値として4.2m,234cm, 85.35cm を得た. 直方 体の体積はいくつと表示するのがベストだろうか, 数値はどこま で信用できるだろうか. 0.1mm 1 cm (2)単位を合わせると 4.2m, 2.34m, 0.8535m となるので, 4.2m×2.34m×0.8535m= 8.388198m² なる値が求まる. しかし, 4.2mという測定値は4.15 4.2 4.25を四捨五 入して得た値なので4.2m±0.05m を意味する。 つまり、この値は±0.05m (± 0.05/4.2 ×100=±1.2%) の誤差をもつ。 同様に2.34mは2.34±0.005 (誤差± 0.005/2.34×100= ± 0.21%), 0.8535m は 0.8535 ± 0.00005 (誤差± 0.00005/0.8535 × 100=0.006%) を意味す る. したがって、この値を用いて計算した8.388198m² なる体積は± 1.2% ± 0.21% ± 0.006% =±1.4% の誤差をもつ つまり (8.388198 ± 0.117435) m である. それゆえ,この直 方体の体積は8.388 0.117=8.39 ±0.12(8.27~8.51)=8.4m² と表せば十分である. 8.4 の意味は 8.35~8.45 であり、 実際の誤差幅よりも小さい. 8.4 という答ですら多 めの有効数字を示したことになる.つまり,計算結果は4.2, 2.34, 0.8535の三つの測 定値の有効数字の桁数 2, 3, 4桁のうちのもっとも小さい桁数2桁に合わせて示せばよ いことがわかる (1桁下の3桁目を四捨五入して示すのが常識) 実験データ処理におけ る有効数字の扱いは, 以上のように測定値の精度に依存する すなわち, 有効数字は測定値の精度を反映したものである. 1000's GD 01 (0 0800.0 -0.21% 12% 12% x6/180.18=0.3999(0.4000)

回答募集中 回答数: 0
1/123