問2
次の5つの数値の合計を有効数字で表した場合、正しいものは下のうちどれか。
数値:201.4、23.7、5.75、2.47、0.7593
- (1)234.0793
- (2)234.079
- (3)234.08
- (4)234.1
- (5)234
正答 (4)
足し算では、小数点以下の桁数が最も少ないものに合わせます。最も少ないのは 201.4 と 23.7 の小数点以下1桁なので、合計 234.0793 も小数点以下1桁に丸めて 234.1 とします。よって(4)が正しいものです。
この問題で狙われた罠:有効数字
足し算・引き算は小数点以下の桁が最も少ないものに、掛け算・割り算は有効桁数が最も少ないものに合わせる。
なぜ?
計算結果は、最も粗いデータより精しくはならない。
出典:公益財団法人 安全衛生技術試験協会 公表試験問題(令和元年度 第2回・2020年2月実施)