실수 계수 다항식P를 모두 구한다. 이 식을 P(x)²=P(x)와 같은 조건으로 읽어0 또는1만 답한 풀이를 검토한다.
상수 다항식P=C는 모든 실수C에서 조건을 만족한다. 바깥P도 항상C를 출력하기 때문이다.
상수가 아니라면 차수n≥1이고 합성P(P(x))의 차수는n²이다. 오른쪽 차수n과 같아야 하므로 n=1이다. P=ax+b(a≠0)로 쓰면 합성은a²x+ab+b다.
계수 비교에서 a²=a, ab+b=b를 얻는다. a≠0이므로 a=1이고 b=0이다. 따라서 상수가 아닌 후보는P(x)=x뿐이다.
가능한 식은 모든 상수 다항식과P=x다. 각 후보를 원래 합성식에 직접 대입한다. 함수의 출력에 같은 함수를 다시 적용하는 동작과 출력을 자기 자신과 곱하는 동작은 다르므로, 괄호 위치를 계산 전에 확인한다.
출처·착안: Jo Morgan, 「Factorising by Inspection」. 문항과 풀이는 새로 작성했다.
