X는 1000, 1001을 각각 확률 1/2로 취해요. 학생은 E(X)=1000.5를 1001로 반올림한 뒤 다음 계산을 했어요.
“분산이 음수인 자료”라고 결론 내려도 되나요?
원래 평균 1000.5를 사용하면
평균에서 뺀 차를 직접 제곱해도 (0.25+0.25)/2=0.25입니다. 분산(값들이 평균에서 얼마나 흩어져 있는지 나타내는 양)은 음수가 아니에요. 두 번째 계산에 실제 평균이 아닌 반올림한 수 1001을 넣어서 분산 공식의 전제를 바꾸었어요.
교사는 표시한 평균과 계산에 사용한 평균을 구별하게 해요. 보기 편하게 1001이라고 표시해도 중간 계산은 정확한 1000.5로 진행할 수 있어요. 원자료를 반올림해 새로운 자료를 만든 경우라면 아예 다른 확률변수를 계산한 거예요.
여기서는 E(X²)를 정확한 값으로 남기고 E(X)만 바꾸어 서로 다른 기준의 두 값을 뺐어요. 원래 수들의 제곱이 크다고 해서 분산도 커야 하는 것은 아니에요. 두 값의 차는 1이고 평균으로부터의 차는 각각 ±0.5입니다.
학생이 음수 결과를 0으로 고쳐 쓰는 것도 해결이 아니에요. 분산이 음수가 될 수 없다는 성질은 오류를 찾는 신호이며, 올바른 값이 언제나 0이라는 뜻은 아니에요. 식의 두 항과 입력 자료를 다시 확인해야 0.25가 나와요.
문항 준비에서는 큰 공통 부분이 있고 차이가 작은 두 값을 넣어 중간 반올림의 영향을 드러내요. 답안에 마지막 근삿값만 쓰기보다 정확한 평균과 제곱 평균을 먼저 남기게 해요.
출처·착안: Dr Nic, 「Spreadsheets, statistics, mathematics and computational thinking」. 문항과 예시 답안은 새로 작성했다.
