問2
次の式の計算結果のうち、有効数字の桁数が3ではないものはどれか。
- (1)12.3+5.73
- (2)53.64-30.5
- (3)1.08×0.61
- (4)2.92÷0.0530
- (5)(3.45+0.21)×6.32
正答 (3)
掛け算・割り算は、有効数字の桁数が最も少ないものに合わせます。1.08(3桁)× 0.61(2桁)の答えは、2桁になります。よって、有効数字が3桁ではないのは(3)です。
足し算・引き算は、小数点以下の桁数が最も少ないものに合わせます。12.3 + 5.73 = 18.0(3桁)、53.64 − 30.5 = 23.1(3桁)です。2.92 ÷ 0.0530 は3桁どうしで3桁、(3.45 + 0.21) × 6.32 はかっこ内が 3.66(3桁)なので3桁です。
この問題のひっかけパターン:有効数字
足し算・引き算は小数点以下の桁が最も少ないものに、掛け算・割り算は有効桁数が最も少ないものに合わせる。
なぜ?
計算結果は、最も粗いデータより精しくはならない。
出典:公益財団法人 安全衛生技術試験協会 公表試験問題(平成30年度 第1回・2018年8月実施)