表にある性能を有するサーキット・テスタを用いて直流電圧を測定したところ,表示部に『7.000V』と表示された場合の測定真値として,適切なものは次のうちどれか。ただし,電圧レンジは最も適切なレンジを使用したものとする。
(1)6.787V~7.213V
(2)6.760V~7.240V
(3)6.979V~7.021V
(4)6.976V~7.024V
解く
表示部に『7.000V』と表示されたので、
9.999×0.75=7.49925≧7.000より、
レンジは9.999、分解能1mV、確度0.3%+3d が最も適応する。
7.000×0.003+0.003=0.021+0.003=0.024
よって
7.000±0.024=6.976V~7.024V
よって答えは(4)