자체 모형에서 장치는 값을 가장 가까운 정수로 바꾸며, 정확히 반칸인 경우 큰 정수 쪽을 택해요. 위아래 저장 한계는 없어요. 고정한 실수 입력 x에 U를 더해 변환한 뒤, 기록해 둔 바로 그 U를 빼요. U는 −1/2 이상 1/2 미만에서 균등해요. 출력 Y는 언제나 x인가? x=1/4에서 평균과 오차분포를 구하고 다른 x도 같은 오차분포를 갖는지 판단해 볼까요?
바닥 기호는 해당 값 이하의 가장 큰 정수예요. x=1/4에서는 U<1/4이면 Q=0, U≥1/4이면 Q=1입니다. 두 구간의 확률은 3/4와 1/4입니다. 반올림 단계가 끼어 있으므로 더한 수를 빼도 원래 값으로 항상 돌아오지는 않아요.
| U 범위 | 장치의 정수 기록 | U를 뺀 출력 |
|---|---|---|
| −1/2≤U<1/4 | 0 | −U |
| 1/4≤U<1/2 | 1 | 1−U |
첫 구간의 출력은 (−1/4,1/2], 둘째는 (1/2,3/4]에 빈틈 없이 놓여요. 구간 안의 변환은 기울기 −1이며 원래 U의 밀도는 1입니다. 따라서 Y는 길이 1인 (−1/4,3/4]의 균등분포이고 Y−x는 (−1/2,1/2]의 균등분포예요. 끝점 포함 방식은 확률 0인 점을 바꾸므로 평균과 분산(값들이 평균에서 얼마나 흩어져 있는지 나타내는 양)을 바꾸지 않아요.
중괄호는 소수부분이에요. 길이 1 구간에서 균등한 값을 같은 양만큼 옮겨 소수부분만 남기면 0 이상 1 미만의 균등분포가 돼요. 구간이 1의 경계를 넘으면 넘친 부분이 0 쪽으로 이어질 뿐이에요. 위 식으로 어떤 고정 실수 x에서도 같은 오차분포를 얻어요.
U를 빼지 않고 정수 기록만 남기면 x=1/4의 오차는 −1/4와 3/4를 확률 3/4와 1/4로 가져 평균 0, 분산 3/16입니다. 반면 x=0에서는 정수 기록이 거의 확실히 0이므로 오차 분산 0입니다. U를 다시 빼는 설계가 모든 x에서 오차를 더 작게 만든다는 결론도 틀려요. 출력 평균이 x라는 말과 매 출력이 x라는 말은 구별해야 해요.
Wannamaker의 실제 박사논문에서 subtractive dither는 더한 값을 변환 뒤에 다시 빼는 구조이며, 포화되지 않는 균등 간격 변환을 가정해요. 여기서는 신호의 시간표집 문제와 다른 단일 값의 진폭 변환을 새 문항으로 골랐어요. 실제 센서의 해상도가 늘거나 원래 값을 완벽하게 알아낸다는 실험 결과가 아니에요.
교사는 평균 오차 0을 읽은 답에 한 번의 실제 출력값도 원래 숫자와 같아야 하는지 물어요. U를 전후에 다르게 고르거나 정수 기록만 받아 놓고 U를 모르면 식의 조건을 만족하지 않아요. 외부 잡음을 아무렇게나 더하면 된다는 주장으로 확장하지 않아요.
착안 원문: Robert Alexander Wannamaker, The Theory of Dithered Quantization (PhD thesis, Waterloo,1997). 수치·표·문항·풀이를 새로 만든 교육용 모형이며 원문 자료의 실제 관측값을 보고한 것이 아니에요.