장치는 가장 가까운 정수로 바꾸며 반 칸이면 큰 정수 쪽을 택한다. 저장 한계는 없다. 정확한 입력 0과 1/2에 같은 U를 더해 각각 변환하고, 두 출력에서 바로 그 U를 뺀다. U는 [−1/2,1/2)에서 균등하다. 두 측정값을 빼면 공통 잡음이 없어져 정확히 1/2를 얻을까? 두 오차가 같은 방향으로 움직이는지도 판정하라.
Q(U)는 항상 0이다. U<0이면 Q(1/2+U)=0이고 U≥0이면 1이다. 두 경우의 확률은 각각 1/2다. U를 뺀 두 출력끼리 다시 빼면 공통 U는 사라지지만 남는 두 정수 기록의 차는 0이나 1이다. 정확한 입력 차 1/2가 항상 복원되는 것은 아니다.
| U 범위 | Y₁−Y₀ | 차의 오차(Y₁−Y₀)−1/2 |
|---|---|---|
| −1/2≤U<0 | 0 | −1/2 |
| 0≤U<1/2 | 1 | 1/2 |
각 측정의 오차 ε₀=Y₀, ε₁=Y₁−1/2는 평균 0, 분산 1/12의 균등분포다. 그런데 두 오차의 차는 ±1/2여서 분산 1/4다. V(ε₁−ε₀)=V(ε₁)+V(ε₀)−2Cov(ε₀,ε₁)에 넣으면 공분산은 음수다.
마지막 식은 입력을 x와 x+r로 바꾸어도 성립한다. W={x+U+1/2}는 [0,1)의 균등값이며 두 정수 기록의 차는 W+r≥1일 때 1, 아닐 때 0이다. 따라서 차의 오차는 1−r를 확률 r, −r를 확률 1−r로 가져 분산 r(1−r)이다. r=0이면 두 오차가 완전히 같고, r=1/2에서는 위의 음의 공분산을 얻는다.
각 입력에 서로 독립인 U를 썼다면 두 오차도 독립이고 차 오차 분산은 1/6이다. 같은 U를 쓴다고 항상 측정 차가 더 정확해지는 것도 아니다. 공통 값이 식에서 지워지는 단계와 비선형 반올림이 남긴 차를 따로 읽어야 한다.
실제 논문은 한 오차의 균등분포와 시간상 두 오차의 독립성을 별개 조건으로 제시한다. 여기는 같은 잡음을 재사용한 두 입력의 자체 반례와 입력 차 전체 구간의 식을 만들었다. 원문의 신호 시간열 실험이나 모든 디더 설계의 일반 정리를 증명했다고 하지 않는다.
교사는 공통 오차가 늘 같은 부호로 들어간다는 선형 모형을 바로 대입하지 않게 한다. 공통 U 앞뒤에 정수 변환이 끼면 오차 두 개가 서로 다른 조각 함수다. 어떤 입력차에서는 일치하고 어떤 입력차에서는 음의 공분산이 나오는지 구간 경계로 설명하게 한다.
착안 원문: Wannamaker, The Theory of Dithered Quantization (1997), temporal error conditions. 두 입력과 공유 잡음의 표·오차 계산은 자체 모형이며 실제 변환 장치의 측정값이나 성능 실험을 보고한 것이 아니다.