두 측정값을 반씩 평균하면, 결과가 덜 흔들릴까요?

두 측정 결과를 합친 값의 기댓값(확률을 반영한 평균)은 목표값과 같게 유지해요. 두 오차의 상관관계와 음수 비중을 허용하는지에 따라, 결과가 가장 덜 흔들리는 비중이 어떻게 달라지는지 살펴봐요.

목재 원기둥 옆에 놓인 두 금속 측정 도구

이미지: AI 생성 · 수학 이야기

같은 값을 재는 두 결과를 합칠 때, 두 결과 사이의 비중만 허용해야 할까요? 자체 확률모형에서 X와 Y의 기댓값(확률을 반영한 평균)은 모두 10이고 표준편차는 각각 1, 2입니다. 두 오차의 상관계수는 3/4로 알려져 있어요. 독립이라는 조건은 없어요. 비중 w를 관측 전에 고정하고 아래 값을 만들어요.

Tw=wX+(1−w)Y,E(X)=E(Y)=10.T_w=wX+(1-w)Y,\qquad E(X)=E(Y)=10.

여기서 덜 흔들린다는 말은 분산이 작다는 뜻이에요. 주어진 관계는 실제 센서 두 번의 관측에서 추정한 통계가 아니라, 다음 네 결과와 확률로 정의한 교실 모형이에요.

X Y 확률
11 12 7/16
11 8 1/16
9 12 1/16
9 8 7/16

각 열의 평균은 10, 분산은 1과 4입니다. 각 값에서 평균 10을 뺀 두 차의 곱을 확률로 더하면 3/2여서, 이를 표준편차의 곱 2로 나눈 상관계수는 3/4입니다. 어떤 실수 w에도 두 비중의 합이 1이므로 T의 기댓값은 계속 10입니다. 음수 비중만으로 편향이 생기는 것은 아니에요.

평균에서의 차를 제곱해 네 확률로 더하면 분산은 2w²−5w+4입니다. 이를 2(w−5/4)²+7/8로 쓰면 모든 실수 w에서 유일 최소는 5/4입니다. Y의 비중은 −1/4이고 최소 분산은 7/8입니다. 반면 0≤w≤1로 제한하면 유일 최소는 w=1이며 분산은 1입니다. 두 값을 반씩 섞은 w=1/2의 분산은 2로, X만 쓰는 경우보다 커요. 평균의 목표값을 유지해도 결합을 허용하는 범위에 따라 최선이 달라져요.

이제 기댓값이 같은 μ인 모든 유한 확률모형으로 넓혀 볼까요? X,Y의 표준편차는 각각 s,t>0입니다. ρ=E[(X−μ)(Y−μ)]/(st)를 상관계수로 정의하고 −1≤ρ≤1인 값을 알고 있다고 가정해요. 두 값은 함께 나타나는 확률을 정한 같은 공동법칙에서 짝지어지며, w는 관측값에 따라 바꾸지 않아요. 차의 제곱을 전개하면 다음 식이 나와요.

V(w)=s2w2+t2(1−w)2+2ρstw(1−w),A=s2+t2−2ρst,w0=t2−ρstA,V(w0)=s2t2(1−ρ2)A(A>0).\begin{gathered} V(w)=s^2w^2+t^2(1-w)^2+2\rho stw(1-w),\\ A=s^2+t^2-2\rho st,\\ w_0=\frac{t^2-\rho st}{A},\qquad V(w_0)=\frac{s^2t^2(1-\rho^2)}{A}\quad(A>0). \end{gathered}

A는 (s−t)²+2st(1−ρ)여서 음수가 아니에요. A=0은 s=t이고 ρ=1인 경우뿐이에요. 이때는 분산이 모든 w에서 s²로 같으므로 나누기 공식 대신 모든 비중이 최적이라고 답해요.

A>0이면 V(w)=A(w−w₀)²+V(w₀)이므로 실수 범위의 최적 비중은 w₀ 하나예요. 0≤w≤1 안에서 이 비중을 쓸 수 있는 조건은 ρ≤min(s/t,t/s)입니다. 두 분자 조건 w₀≥0, 1−w₀≥0을 각각 읽으면 얻어져요. 이 조건을 넘는 높은 양의 상관에서는 최적 비중이 구간 밖에 있어요. s<t이면 구간 안의 최선은 w=1, s>t이면 w=0입니다. 더 작은 표준편차의 한 값만 남기는 거예요. 경계에서는 w₀가 그 끝점과 일치하며, A>0인 한 최적 비중은 여전히 유일해요.

분산을 0으로 만들 수 있는지도 조건을 나눠 볼까요? ρ=−1이면 w=t/(s+t)에서 두 오차가 정확히 상쇄되고 이 비중은 0과 1 사이예요. ρ=1이고 s≠t이면 같은 방향의 오차를 음수 비중으로 빼서 분산 0을 만들 수 있지만, 0~1 비중으로는 불가능해요. ρ=1,s=t인 퇴화 경우에는 분산이 s²>0입니다. −1<ρ<1에서는 분자의 1−ρ²가 양수여서 어떤 실수 비중도 분산 0을 만들지 못해요. 이들은 알려진 이상적인 공동법칙 안에서의 결론이지 실제 측정기가 오차 없이 작동한다는 보증이 아니에요.

이 모든 ρ 조건이 유한 모형에서 가능한지도 확인할 수 있어요. U,V가 각각 −1 또는 1이고, 같은 부호 두 결과의 확률을 각각 (1+ρ)/4, 다른 부호 두 결과를 각각 (1−ρ)/4로 정해요. 확률은 음수가 아니고 합은 1입니다. X=μ+sU, Y=μ+tV로 놓으면 위 기댓값·표준편차·상관관계를 모두 만족해요. 처음의 네 줄은 μ=10,s=1,t=2,ρ=3/4인 경우예요.

NIST의 논문은 비음수 가중결합의 불확실성에 상관 교차항을 포함해요. 현재 문항은 원문의 상태지식 분포를 실제 반복 측정 자료로 바꾸었다고 주장하지 않고, 별도의 유한 확률모형에서 음수 비중 허용 여부까지 비교했어요. 원문은 불확실성이 신뢰롭게 알려지지 않으면 역분산 비중을 자동으로 쓰지 말라고 경고해요. 이 문제의 알려진 s,t,ρ 조건을 실제 측정 두 값만으로 얻었다고 해석하면 안 돼요.

교사는 ‘평균이 목표값인가’, ‘분산이 작은가’, ‘비중 범위가 무엇인가’를 따로 적게 해요. 독립일 때의 공식을 상관 있는 두 값에 적용하거나, A=0인데 분모 공식에 그대로 대입한 답을 점검해요.

착안: Kessel, Kacker and Sommer, Combining Results From Multiple Evaluations of the Same Measurand (2011), §2.4·Note2. 확률표·비중 제약 비교·전체 경우의 분류와 증명은 자체 교육용이에요.

이 글 공유하기

개인정보 및 방문 통계 안내