한 측정값 X를 두 기기가 기록한다. A는 소수 부분을 버려 정수로 쓰고, B는 가장 가까운 정수로 반올림한다. 거리가 같으면 B는 큰 정수로 쓴다. 두 표시가 같을 확률은 얼마일까?
| 실제 값의 구간 | A | B | 같은가 |
|---|---|---|---|
| 0≤X<1/2 | 0 | 0 | 예 |
| 1/2≤X<1 | 0 | 1 | 아니오 |
| 1≤X<3/2 | 1 | 1 | 예 |
| 3/2≤X<2 | 1 | 2 | 아니오 |
X=2에서는 두 표시가 모두 2지만 한 점의 확률은 0이다. 일치하는 두 구간의 길이는 각각 1/2이므로
같은 입력을 쓴다는 사실이 같은 기록을 보장하지 않는다. 반올림 규칙과 소수 부분을 버리는 규칙을 각각 구간으로 옮기게 하자. X=0.8과 1.2를 대입하면 불일치와 일치의 실제 예를 확인할 수 있다.
출처·착안: Dr Nic Petty, 「Videos for teaching and learning statistics」. 문항과 예시 답안은 새로 작성했다.