問2
有効数字に関する次の記述のうち、誤っているものはどれか。
- (1)5.43＋0.576の答えの有効数字の桁数は、3である。
- (2)0.145の有効数字の桁数は、3である。
- (3)4.642÷2.0の答えの有効数字の桁数は、4である。
- (4)3.640×10⁻⁶の有効数字の桁数は、4である。
- (5)7.01の2乗の答えの有効数字の桁数は、3である。
正答 (3)
割り算の結果は、有効数字の桁数が最も少ないものに合わせます。4.642（4桁）÷ 2.0（2桁）の答えは、2桁になります。4桁とする選択肢3は誤りです。
5.43 ＋ 0.576 ＝ 6.006 → 6.01（小数点以下2桁で3桁）、7.01² ＝ 49.14 → 49.1（3桁）は、いずれも正しい記述です。
この問題のひっかけパターン：有効数字
足し算・引き算は小数点以下の桁が最も少ないものに、掛け算・割り算は有効桁数が最も少ないものに合わせる。
なぜ？
計算結果は、最も粗いデータより精しくはならない。
出典：公益財団法人 安全衛生技術試験協会 公表試験問題（平成28年度 第2回・2017年2月実施）