8
表にある性能を有するデジタル・テスタを用いて2MΩ±5%の抵抗を測定したところ,表示値は1.9756MΩであった。この抵抗がもっている抵抗値の範囲として,適切なものは次のうちどれか。ただし,抵抗レンジは最も適切なレンジを使用したものとする。
(1)1.9637MΩから1.9875MΩ |
(2)1.9655MΩから1.9857MΩ |
(3)1.9726MΩから1.9786MΩ |
(4)1.9744MΩから1.9768MΩ |
解く
5MΩレンジ・・・0.5%±2d
1.9756×0.005=0.009878+0.0002=0.010078
ゆえに
1.9756±0.010078=1.9655~1.9857
よって答えは(2)