홈페이지나 카탈로그의 DMM이나 클램프 전류계 등의 사양란에서는
측정 레인지를 소개하고 있습니다.
예를 들어 3244-60의 419.9mV 레인지에서는 0.0~419.9mV까지 측정할 수 있으며,
최소 분해능은 0.1mV입니다.
그러나 0.1mV를 측정할 수 있다는 것은 아닙니다.
사양상 규정이 있는 것을 제외하고 기본적으로는 측정 하한치는 규정되어 있지 않습니다.
단, 측정 하한치를 판단하기 위해서는 측정기의 정확도 계산이 중요합니다.
예를 들어, 3244-60의 419.9mV 레인지의 정확도는 ±2.0% rdg. ±4dgt.라고
규정되어 있습니다. (rdg.= 판독값, 표시값, dgt.= 분해능)
만일 측정치가 '100.0mV'인 경우,
rdg. 오차는 100.0mV×2.0%이므로 ±2.0mV,
dgt. 오차는 4dgt. = ± 0.4mV,
합계 ±2.4mV입니다.
100.0mV 측정치에 대한 오차 한계치는 97.6mV~102.4mV가 됩니다.
마찬가지로 측정치가 '5.0mV'인 경우,
rdg. 오차는 5.0mV×2.0%이므로 ±0.1mV,
dgt. 오차는 4dgt. = ± 0.4mV,
합계 ±0.5mV입니다.
5.0mV 측정치에 대한 오차 한계치는 4.5mV~5.5mV가 됩니다.
'100.0mV' 표시 시 오차 한계치는 표시치의 ±2.4%이나,
"5.0mV"표시 시 오차한계치는 표시치의 ±10%입니다.
측정기의 측정 하한치는 표시치와 정확도 계산에 따른 오차 한계치를 통해 판단해 주십시오.