問2
次の1及び2の数値並びに3から5の計算の結果のうち、有効数字の桁数が3ではないものはどれか。
- (1)0.0515
- (2)1.270×10⁻³
- (3)2.170×6.02
- (4)3.15+0.16
- (5)6.235÷5.00
正答 (2)
1.270 × 10⁻³ の有効数字は、末尾の0も含めて 4桁です。よって、3桁ではないのは(2)です。
0.0515 は先頭の0を数えないので3桁、2.170 × 6.02 は3桁に、3.15 + 0.16 = 3.31 は3桁、6.235 ÷ 5.00 は3桁になります。
この問題のひっかけパターン:有効数字
足し算・引き算は小数点以下の桁が最も少ないものに、掛け算・割り算は有効桁数が最も少ないものに合わせる。
なぜ?
計算結果は、最も粗いデータより精しくはならない。
出典:公益財団法人 安全衛生技術試験協会 公表試験問題(平成27年度 第2回・2016年2月実施)