가상의 온도 표시 장치에서 대상의 실제 온도는 50도, 기준은 20도예요. 두 측정값에는 같은 회차의 공통 오차 e가 붙고, e는 같은 확률로 +2도 또는 -2도예요. 회차 사이의 오차는 독립이에요. 그런데 화면은 51도를 넘는 측정값을 모두 51도로 표시해요. 낮은 쪽은 자르지 않아요. 공통 오차가 같으니 두 화면의 값을 빼면 언제나 실제 온도 차 30도를 얻을까요?
오차가 +2도이면 자르기 전 두 값은 52도와 22도예요. 화면에는 51도와 22도가 나오므로 차는 29도예요. 오차가 -2도이면 48도와 18도가 모두 상한보다 낮아 그대로 표시되고 차는 30도예요. 표시 차는 각각 절반의 확률로 29도와 30도가 돼요. 따라서 평균 표시 차는 (29+30)/2=29.5도로 실제 차 30도보다 0.5도 작아요.
자르기 전에는 (50+e)-(20+e)=30으로 공통 오차가 상쇄돼요. 하지만 큰 값을 상한으로 누르는 규칙은 더하기와 빼기의 관계를 그대로 유지하지 않아요. 한쪽에만 적용된 잘림이 차를 바꿔요. 화면 상한을 55도로 높인 가상 장치라면 두 가능한 측정값이 모두 그대로 표시되므로 차는 다시 항상 30도예요. 공통 오차뿐 아니라 표시 범위 안에 있다는 조건도 필요해요.
온도와 표시 규칙은 모두 계산을 위한 가상 설정이며 실제 센서 성능을 나타내지 않아요. 이 모형에서 여러 회차를 평균 내도 표시 차는 평균적으로 29.5도로 향하지 30도로 바로잡히지 않아요. 회차 수를 늘리는 것과 한쪽의 값을 잘라 생긴 차이를 제거하는 것은 달라요. 차를 계산하기 전에 화면이 원래 측정값을 그대로 보여 주는지 확인해야 공통 오차의 상쇄를 사용할 수 있어요.
수학 개념 참고: NRICH · Roll These Dice.
이 글의 생활 상황과 계산 예시는 수학 이야기에서 새로 구성했습니다.