가상의 판 길이를 두 측정기로 잽니다. 실제 길이는 변하지 않고 측정 오차도 없다고 가정하되, 첫 기기는 가장 가까운 십 센티미터로, 둘째는 가장 가까운 일 센티미터로 기록해요. 정확히 중간이면 큰 쪽으로 올려요. 첫 표시가 백이십 센티미터이고 둘째가 백이십육 센티미터일 때 같은 길이에 대한 기록으로 받아들일 수 있을까요?
첫 표시가120cm이면 실제 길이 x는115cm 이상125cm 미만이에요. 둘째 표시가126cm이면125.5cm 이상126.5cm 미만이에요.
두 구간이 겹치지 않으므로 이 가정 아래에서는 같은 길이를 잰 기록일 수 없어요. 단순히 두 표시의 차이가 작다는 이유로 승인하면 안 돼요.
둘째 표시가124cm였다면 답이 달라져요. 둘째가 허용하는123.5cm 이상124.5cm 미만 전체가 첫 구간 안에 들어가요. 예를 들어124cm라는 길이는 두 표시를 모두 만들어요. 기록끼리 양립한다는 것은 가능한 실제 길이가 적어도 하나 있다는 뜻이며, 그 길이를 정확히 알아냈다는 뜻은 아니에요.
반올림 규칙은 한 숫자를 여러 원래 값의 이름으로 써요. 그래서 기록을 대조할 때에는 표시 숫자끼리 바로 평균하기보다 각 숫자가 허용하는 범위를 먼저 복원해야 해요. 이번 불일치는 반올림만으로 설명되지 않는다는 판단이에요. 실제 도구에는 측정 오차가 따로 있으므로 그 오차 범위가 있다면 함께 적용해야 하며, 이 계산만으로 어느 기기가 고장인지 단정할 수는 없어요.
참고한 수학 개념: NRICH · Reasoned Rounding.
이 글의 생활 상황과 계산 예시는 수학 이야기에서 새로 구성했습니다.