성분이 모두 0 이상이고 세 번 곱해 E이면 A 자체도 E인가

A=\begin{pmatrix}a&b\\c&d\end{pmatrix},\quad a,b,c,d\ge0,\quad A^3=E.

E는 2행 2열 단위행렬이다. A=E가 반드시 성립하는지 판단하라. 성분의 부호 조건을 없애거나, A³=E를 A²=E로 바꾸면 결론이 유지될까?

C=a²+ad+d²+bc로 놓고 세 번의 곱에서 1행 2열과 2행 1열의 성분을 읽는다.

(A^3)_{12}=bC=0,\qquad (A^3)_{21}=cC=0.

b나 c 중 하나가 양수라면 C=0이다. C의 네 항은 모두 0 이상이므로 a=d=0, bc=0이다. 이때 A²=O가 되어 A³=E와 모순된다. 따라서 b=c=0이다. 남은 두 성분은 a³=d³=1이므로 a=d=1, 즉 A=E다. 행렬의 곱을 성분마다 나누어 세제곱근을 취한 계산은 이 증명이 아니다.

부호 조건을 지우면 다음 행렬이 반례다.

R=\begin{pmatrix}0&-1\\1&-1\end{pmatrix},\quad R^2=\begin{pmatrix}-1&1\\-1&0\end{pmatrix},\quad R^3=E.

R은 E가 아니다. 반대로 부호 조건을 유지해도 S=[[0,1],[1,0]]은 S²=E이고 S≠E다. 두 반례는 서로 다른 가정을 검사한다. 풀이를 비교할 때는 C의 각 항이 0 이상이라는 근거와, b=c=0으로 넘어가는 모순을 따로 표시한다.

출처·착안: dmoransky, 「高中数学」易错点以及不自然处整理. 조건 확인에서 착안한 새 문항이다.