問2
次の数値の合計を有効数字で表した場合、正しいものは下のうちどれか。
数値:121.0 10.6 3.46 1.23 0.523
- (1)1.4×10²
- (2)137
- (3)136.8
- (4)136.81
- (5)136.813
正答 (3)
足し算では、小数点以下の桁数が最も少ないものに合わせます。最も少ないのは 121.0 と 10.6 の小数点以下1桁なので、合計 136.813 も小数点以下1桁に丸めて 136.8 とします。よって(3)が正しいものです。
この問題のひっかけパターン:有効数字
足し算・引き算は小数点以下の桁が最も少ないものに、掛け算・割り算は有効桁数が最も少ないものに合わせる。
なぜ?
計算結果は、最も粗いデータより精しくはならない。
出典:公益財団法人 安全衛生技術試験協会 公表試験問題(平成29年度 第1回・2017年8月実施)