평균을 더 많이 내도 같은 편향은 사라지지 않는다

평균은독립적인잡음을줄이지만모든관측에같이붙은오차를없애지는않는다. 표본 수와정확성을같은말로쓰려면오차의종류부터확인해야한다.

금색 저울과 실제 추

사진: Nikodem Nijaki · CC BY-SA 3.0 · 원본 출처

교육용측정은Y=θ+b+ε이고E(ε)=0,분산σ²다. 관측 잡음은독립이고b는고정 편향이다. A는b=2,σ=1로100회,B는b=0,σ=2로25회평균을쓴다. 평균 추정의MSE=b²+σ²/n을이용해둘을비교하라. A의횟수를무한히늘리면MSE는0이되는가?

자체 장치 고정 편향 b 잡음 표준편차 측정 수
A 2 1 100
B 0 2 25
Y=θ+b+ε,MSE=b2+σ2nY=\theta+b+\varepsilon,\quad\mathrm{MSE}=b^2+\frac{\sigma^2}n

추정의 편향과 무작위 변동

A의MSE는4+1/100=4.01,B는0+4/25=0.16이다. 주어진 모형에서는B가더작다. A가측정 횟수는더많지만공통 편향2가있다.

A의횟수n을늘리면MSE=4+1/n→4다. 무작위분산항만줄어편향제곱은남는다. 평균화가오류를상쇄한다는말에는잡음의평균0과독립같은가정이필요하다. 이문항은추정 불확실성설명에서확장한자체오차모형이다.

MSEA=4.01,MSEB=0.16,lim⁡n→∞MSEA(n)=4\mathrm{MSE}_A=4.01,\quad\mathrm{MSE}_B=0.16,\quad\lim_{n\to\infty}\mathrm{MSE}_A(n)=4

편향b와표준편차σ를서로 다른 기호와그림으로표시한다. 평균값의주변흔들림이작아져도목표θ에서떨어져있을 수있음을수치로확인한다.

A의편향을어느정도이하로교정해야100회평균의MSE가B보다작아지는가?

착안 원문: 4.1.3.1. Estimation. 평균화가 독립 잡음을 줄이는 설명에서 고정 편향까지 사라진다는 오해를 따로 검산했다.