X는 표준정규분포를 따른다. 측정값을 가장 가까운 정수로 반올림해 기록한 값을 R이라 한다. P(R=0)을 구하라. 표에는 P(0≤X≤0.5)=0.1915가 주어졌다.
끝점의 반올림 방식은 확률에 영향을 주지 않는다. 연속확률변수 X가 정확히±0.5일 확률은0이기 때문이다.
P(X=0)=0이라는 계산은 맞다. 그러나 R=0은 X가 정확히0이라는 사건이 아니다. 한 구간의 여러 측정값을 같은 기록값으로 묶은 사건이다. X와 R을 같은 문자로 쓰면 이 차이가 사라진다.
반올림 자릿수를 소수 첫째 자리로 바꾸면 기록0은−0.05≤X<0.05에 대응한다. 현재 제공된0.5의 표 값을 그대로 쓸 수 없다. 표시한 값이 같아도 측정 구간의 폭이 달라지면 확률은 달라진다.
교사는 원래 값의 확률분포와 기록 규칙을 문제에 함께 적는다. 연속확률변수의 한 점 확률을 물을 때와 기기에 표시되는 값의 확률을 물을 때는 정답이 다를 수 있다. ‘정수로 기록한다’는 말이 계산 전에 사건의 범위를 바꾼다.
자료를 보관할 때도 화면에0이 보인다는 이유로 정확한 측정값이0이었다고 쓰지 않는다. 화면의 자릿수와 실제 저장된 값이 같다는 조건이 없다면 기록값만으로 더 세밀한 원래 값의 분포를 복원할 수 없다.
문항에 주어진 표의 숫자는 근삿값이므로 최종0.3830도 그 자릿수에 따른 값이다. 반올림 규칙을 확률로 바꾸는 단계와 표의 근사 계산을 구별한다.
출처·착안: Dr Nic, 「Spreadsheets, statistics, mathematics and computational thinking」. 문항과 예시 답안은 새로 작성했다.