소수 부분 버리기와 반올림, 같은 측정값이 다르게 기록되는 이유

0부터 2까지 균등하게 분포하는 측정값 하나를 두 기기가 기록해요. 소수 부분을 버리는 방법과 가장 가까운 정수로 반올림하는 방법을 비교하고, 두 표시가 같을 확률을 구해요. 정확히 중간이면 큰 정수로 반올림해요.

두 온도 단위의 눈금이 나란히 표시된 온도계

사진: Martinvl · CC BY-SA 3.0 · 원본 출처

fX(x)=1/2 (0≤x≤2),fX(x)=0 그 밖 f_X(x)=1/2\ (0\le x\le2),\qquad f_X(x)=0\ \text{그 밖}

한 측정값 X를 두 기기가 기록해요. A는 소수 부분을 버려 정수로 쓰고, B는 가장 가까운 정수로 반올림해요. 거리가 같으면 B는 큰 정수로 써요. 두 표시가 같을 확률은 얼마일까요?

실제 값의 구간 A B 같은가
0≤X<1/2 0 0 예
1/2≤X<1 0 1 아니오
1≤X<3/2 1 1 예
3/2≤X<2 1 2 아니오

X=2에서는 두 표시가 모두 2지만 한 점의 확률은 0입니다. 일치하는 두 구간의 길이는 각각 1/2이므로

P(A=B)=12(12+12)=12. P(A=B)=\frac12\left(\frac12+\frac12\right)=\boxed{\frac12}.

같은 입력을 쓴다는 사실이 같은 기록을 보장하지 않아요. 반올림 규칙과 소수 부분을 버리는 규칙을 각각 구간으로 옮기게 해 볼까요? X=0.8과 1.2를 대입하면 불일치와 일치의 실제 예를 확인할 수 있어요.

출처·착안: Dr Nic Petty, 「Videos for teaching and learning statistics」. 문항과 예시 답안은 새로 작성했다.

이 글 공유하기

개인정보 및 방문 통계 안내