X는1000,1001을 각각 확률1/2로 취한다. 학생은 E(X)=1000.5를1001로 반올림한 뒤 다음 계산을 했다.
“분산이 음수인 자료”라고 결론 내려도 되는가?
원래 평균1000.5를 사용하면
평균에서 뺀 차를 직접 제곱해도 (0.25+0.25)/2=0.25다. 분산은 음수가 아니다. 두 번째 계산에 실제 평균이 아닌 반올림한 수1001을 넣어서 분산 공식의 전제를 바꾸었다.
교사는 표시한 평균과 계산에 사용한 평균을 구별하게 한다. 보기 편하게1001이라고 표시해도 중간 계산은 정확한1000.5로 진행할 수 있다. 원자료를 반올림해 새로운 자료를 만든 경우라면 아예 다른 확률변수를 계산한 것이다.
여기서는 E(X²)를 정확한 값으로 남기고 E(X)만 바꾸어 서로 다른 기준의 두 값을 뺐다. 원래 수들의 제곱이 크다고 해서 분산도 커야 하는 것은 아니다. 두 값의 차는1이고 평균으로부터의 차는 각각±0.5다.
학생이 음수 결과를0으로 고쳐 쓰는 것도 해결이 아니다. 분산이 음수가 될 수 없다는 성질은 오류를 찾는 신호이며, 올바른 값이 언제나0이라는 뜻은 아니다. 식의 두 항과 입력 자료를 다시 확인해야0.25가 나온다.
문항 준비에서는 큰 공통 부분이 있고 차이가 작은 두 값을 넣어 중간 반올림의 영향을 드러낸다. 답안에 마지막 근삿값만 쓰기보다 정확한 평균과 제곱 평균을 먼저 남기게 한다.
출처·착안: Dr Nic, 「Spreadsheets, statistics, mathematics and computational thinking」. 문항과 예시 답안은 새로 작성했다.