계산기의 표시값을 제곱하고3을 빼는 동작을 반복해 보겠습니다. 가상 수학 실험이며 숫자에는 물리 단위가 없어요. 규칙은 xₙ₊₁=xₙ²−3입니다. 한 시작값에서 계속 같은 숫자가 나오면, 이 규칙은 언제나 값이 커지지 않는다고 결론 내려도 될까요?
먼저 p=(1+√13)/2를 시작값으로 골라요. p는 p²−p−3=0의 양의 해이므로 제곱하고3을 빼도 다시 p가 돼요. 약2.303이라는 숫자가 계속 유지돼요.
이번에는 시작값만0으로 바꾸겠습니다. 반복을 직접 하면0,−3,6,33,1086,…입니다. x가3이상이면 x²−3≥2x이므로,6에 도착한 뒤의 값은 매번 적어도 두 배가 돼요. 값이 위로 제한되지 않아요.
규칙이 같아도 하나는 고정값이고 다른 하나는 계속 커져요. 고정값 p의 존재는 ‘모든 시작값에서 안정적이다’라는 주장을 증명하지 못해요. 실험에서 어떤 시작값을 사용했는지가 빠지면 두 결과를 같은 조건으로 비교할 수 없어요.
만델브로 집합은 제곱한 뒤 일정한 값 c를 더하는 반복에서 시작값을0으로 고정하고, 어떤 c에서 수열이 유계인지 모읍니다. 이 예의 c=−3은0출발 수열이 발산하므로 그 집합에 속하지 않아요. 다른 고정 시작값 하나를 찾았다는 사실은 이 판정을 바꾸지 않아요.
참고한 수학 개념: Mathigon · The Mandelbrot Set.
이 글의 생활 상황과 계산 예시는 수학 이야기에서 새로 구성했습니다.