같은 측정값을 두 방법으로 기록하면 표시가 같을 확률은

같은 측정값을 두 방법으로 기록하면 표시가 같을 확률은

fX(x)=1/2 (0≤x≤2),fX(x)=0 그 밖 f_X(x)=1/2\ (0\le x\le2),\qquad f_X(x)=0\ \text{그 밖}

한 측정값 X를 두 기기가 기록한다. A는 소수 부분을 버려 정수로 쓰고, B는 가장 가까운 정수로 반올림한다. 거리가 같으면 B는 큰 정수로 쓴다. 두 표시가 같을 확률은 얼마일까?

실제 값의 구간 A B 같은가
0≤X<1/2 0 0 예
1/2≤X<1 0 1 아니오
1≤X<3/2 1 1 예
3/2≤X<2 1 2 아니오

X=2에서는 두 표시가 모두 2지만 한 점의 확률은 0이다. 일치하는 두 구간의 길이는 각각 1/2이므로

P(A=B)=12(12+12)=12. P(A=B)=\frac12\left(\frac12+\frac12\right)=\boxed{\frac12}.

같은 입력을 쓴다는 사실이 같은 기록을 보장하지 않는다. 반올림 규칙과 소수 부분을 버리는 규칙을 각각 구간으로 옮기게 하자. X=0.8과 1.2를 대입하면 불일치와 일치의 실제 예를 확인할 수 있다.

출처·착안: Dr Nic Petty, 「Videos for teaching and learning statistics」. 문항과 예시 답안은 새로 작성했다.