원 x²+y²=1 위 점 P=(1/√2,1/√2)가 있다. 좌표를 소수 둘째 자리까지 반올림한(0.71,0.71)을 대입하니1보다 큰 값이 나왔다. 원래 P가 원 밖이라는 결론을 검토하라.
첫 식은 정확한 좌표이고 둘째 식은 반올림한 다른 점의 좌표다. P는 정확히 원 위이며(0.71,0.71)은 원 밖이다.
소수 셋째 자리 반올림 좌표(0.707,0.707)는 제곱 합0.999698로 원 안에 있다. 자릿수를 늘렸을 때 안쪽으로 바뀌었다고 원래 점의 위치가 바뀐 것은 아니다. 서로 다른 근사 좌표를 검사했다.
교사는 ‘등식이 성립하는지 보여라’는 답안에서 정확한 식과 근삿값을 구별한다. 계산기가 준0.707…를 유한하게 잘라 쓰면 등식이 정확히1일 필요가 없다. 반올림 좌표의 값만으로 문제 조건의 오류를 결론내릴 수 없다.
그림을 찍기 위한 좌표와 등식을 증명하는 좌표도 구별한다. 눈으로 보이는 점의 위치에는 근사가 유용하지만 정확한 검산에는 제곱근을 유지하여 각 제곱이1/2임을 쓰는 편이 분명하다.
점의 이름을 P로 유지하며 근사 좌표를 쓴 경우에는 그 좌표가 정확한 값이 아니라는 표시를 남긴다. ≈로 표시한 줄에서 나온1.0082를 원래 등식의 모순처럼 읽지 않는다.
반대로 문항이 정확히 Q=(0.71,0.71)이라고 준다면 Q는 밖이라는 판정이 맞다. 같은 소수 숫자라도 ‘정확한 좌표’인지 ‘다른 점의 반올림 표시’인지가 판단의 전제다.
출처·착안: Sarah Carter, 「Operations with Radicals Question Stack Activity」. 문항과 예시 답안은 새로 작성했다.