問2
次の式の計算結果のうち、有効数字の桁数が3ではないものはどれか。
- (1)5.31 + 0.352
- (2)6.34-2.3
- (3)2.57 × 0.860
- (4)4.44 ÷ 0.0623
- (5)(3.14 + 0.96) × 1.83
正答 (2)
足し算・引き算は、小数点以下の桁数が最も少ないものに合わせます。6.34 − 2.3 = 4.04 は、2.3 に合わせて小数点以下1桁の 4.0(有効数字2桁)になります。よって(2)です。
5.31 + 0.352 = 5.66、2.57 × 0.860 ≒ 2.21、4.44 ÷ 0.0623 ≒ 71.3、(3.14 + 0.96) × 1.83 = 4.10 × 1.83 ≒ 7.50 は、いずれも3桁です。
この問題で狙われた罠:有効数字
足し算・引き算は小数点以下の桁が最も少ないものに、掛け算・割り算は有効桁数が最も少ないものに合わせる。
なぜ?
計算結果は、最も粗いデータより精しくはならない。
出典:公益財団法人 安全衛生技術試験協会 公表試験問題(令和3年度 第1回・2021年8月実施)