問2
次のデータの和を正しく表しているものは下のうちどれか。ただし、各数値は有効数字で表されている。
22.5 15.3 6.71 3.24 0.456
- (1)48.2060
- (2)48.206
- (3)48.21
- (4)48.2
- (5)48
正答 (4)
足し算では、小数点以下の桁数が最も少ないものに合わせます。最も少ないのは 22.5 と 15.3 の小数点以下1桁なので、合計 48.206 も小数点以下1桁に丸めて 48.2 とします。よって(4)が正しいものです。
この問題のひっかけパターン:有効数字
足し算・引き算は小数点以下の桁が最も少ないものに、掛け算・割り算は有効桁数が最も少ないものに合わせる。
なぜ?
計算結果は、最も粗いデータより精しくはならない。
出典:公益財団法人 安全衛生技術試験協会 公表試験問題(平成27年度 第1回・2015年8月実施)