가상 계측기의 원래 오차 X는 평균 0, 표준편차 1mm인 정규분포라고 정해요. 양수와 음수 오차를 같은 확률로 가지며, 정확히 한 값에 해당할 확률은 0입니다. 그런데 표시 프로그램이 음수는 모두 0으로 바꾸고, 양수는 그대로 기록한다고 해 볼까요? 기록값을 Y=max(0,X)라고 써요.
원래 X가 정확히 0일 확률은 0입니다. 반면 Y가 0이 되는 경우는 X≤0인 전체 반쪽 구간이에요. 정규분포의 대칭성으로 다음과 같아요.
따라서 기록값의 절반이0이 될 수 있어요. Y를 평균과 표준편차만 바꾼 또 다른 정규분포라고 해석하면 이 한 점 확률을 설명할 수 없어요. 기록 방식이 전체 구간을 한 점에 모았기 때문이에요.
0보다 크고 1mm 이하인 기록은 0<X≤1mm와 같아요. 표준정규 누적 확률 Φ(1)≈0.8413을 사용하면 그 확률은 0.8413−0.5≈0.3413입니다. 그래서 0≤Y≤1mm의 확률은 약0.8413이지만 0<Y≤1mm는 약0.3413입니다. 경계의0을 포함하는지가 변환 후에는 중요한 차이가 돼요. 센서의 실제 오차를 주장하는 사례가 아니라, 원자료와 표시값의 분포를 나누어 읽는 계산이에요.
참고한 수학 개념: Plus · Maths in a minute: The normal distribution.
이 글의 생활 상황과 계산 예시는 수학 이야기에서 새로 구성했습니다.