양의 수 x를 가장 가까운 격자값으로 반올림해요. 정확히 가운데이면 마지막 남는 자리의 숫자가 짝수인 쪽을 골라요. R₀.₀₁은 0.01 간격, R₀.₁은 0.1 간격 반올림이에요. x=2.4501은 정확한 수로 줘요. 다음 두 결과가 같은가? 두 단계 결과와 원래 x의 차이는 항상 0.05 이하인가?
직접 0.1 간격으로 반올림하면 2.4501은 2.4와 2.5의 가운데 2.45보다 크므로 2.5입니다. 먼저 0.01 간격으로 반올림하면 2.45가 돼요. 그 수는 0.1 간격에서 정확히 가운데이며 마지막 숫자가 짝수인 2.4로 가요.
| 방법 | 중간값 | 마지막 값 | 원래 값과의 절대차 |
|---|---|---|---|
| 바로 0.1 간격 | 없음 | 2.5 | 0.0499 |
| 0.01 뒤 0.1 간격 | 2.45 | 2.4 | 0.0501 |
각 단계는 규칙을 정확히 지켰지만 두 단계 결과의 오차 0.0501은 0.05보다 커요. 마지막 반올림의 반칸 0.05는 중간값 2.45와의 차이를 보장할 뿐, 처음 값 2.4501과의 차이까지 그대로 보장하지 않아요.
이 상계는 두 단계 오차를 더하는 삼각부등식으로 얻어요. 0.055가 실제 최댓값으로 달성된다고 주장한 것은 아니에요. 입력을 정확한 수로 정했으므로 기기의 측정 오차나 이진 부동소수점 계산 문제를 추가하지 않았어요.
NIST SP811의 정확한 가운데를 짝수 쪽으로 보내는 규칙을 읽고, 서로 다른 두 표시 간격을 차례로 적용하는 자체 예를 구성했어요. 원문의 단위환산 수치를 가져온 것이 아니에요. 반올림 규칙과 입력의 불확실성은 구분했어요.
교사는 마지막 오차가 0.05 이하라는 답에 기준이 처음 값인지 중간값인지 표시하게 해요. 자리수를 단계마다 줄이는 작업과 처음 값에 한 번 적용하는 작업은 같은 함수라고 가정할 수 없어요.
착안 원문: NIST SP 811 (2008), Appendix B.7: Rounding numbers. 정확한 십진수와 두 표시 간격의 합성 반례는 자체 계산이며 원문의 단위환산 수치나 기기의 측정 정확도를 보고한 것이 아니에요.