X는 표준정규분포를 따라요. 측정값을 가장 가까운 정수로 반올림해 기록한 값을 R이라 해요. P(R=0)을 구해 볼까요? 표에는 P(0≤X≤0.5)=0.1915가 주어졌어요.
끝점의 반올림 방식은 확률에 영향을 주지 않아요. 연속확률변수 X가 정확히±0.5일 확률은0이기 때문이에요.
P(X=0)=0이라는 계산은 맞아요. 그러나 R=0은 X가 정확히0이라는 사건이 아니에요. 한 구간의 여러 측정값을 같은 기록값으로 묶은 사건이에요. X와 R을 같은 문자로 쓰면 이 차이가 사라져요.
반올림 자릿수를 소수 첫째 자리로 바꾸면 기록0은−0.05≤X<0.05에 대응해요. 현재 제공된0.5의 표 값을 그대로 쓸 수 없어요. 표시한 값이 같아도 측정 구간의 폭이 달라지면 확률은 달라져요.
교사는 원래 값의 확률분포와 기록 규칙을 문제에 함께 적어요. 연속확률변수의 한 점 확률을 물을 때와 기기에 표시되는 값의 확률을 물을 때는 정답이 다를 수 있어요. ‘정수로 기록한다’는 말이 계산 전에 사건의 범위를 바꿔요.
자료를 보관할 때도 화면에0이 보인다는 이유로 정확한 측정값이0이었다고 쓰지 않아요. 화면의 자릿수와 실제 저장된 값이 같다는 조건이 없다면 기록값만으로 더 세밀한 원래 값의 분포를 복원할 수 없어요.
문항에 주어진 표의 숫자는 근삿값이므로 최종0.3830도 그 자릿수에 따른 값이에요. 반올림 규칙을 확률로 바꾸는 단계와 표의 근사 계산을 구별해요.
출처·착안: Dr Nic, 「Spreadsheets, statistics, mathematics and computational thinking」. 문항과 예시 답안은 새로 작성했다.
