두 제곱이 모두 영행렬이 되게 하는 B는 하나뿐일까

N=\begin{pmatrix}0&1\\0&0\end{pmatrix},\qquad B^2=O,\qquad(N+B)^2=O.

B는 실수 성분의 2행 2열 행렬이고 O는 같은 크기의 영행렬이다. 가능한 B를 모두 구하라. N²=O임도 먼저 확인한다.

(N+B)^2=N^2+NB+BN+B^2.

주어진 두 제곱 조건에서 NB+BN=O다. B=[[a,b],[c,d]]로 놓고 위치별로 곱하면

NB+BN=\begin{pmatrix}c&a+d\\0&c\end{pmatrix}=O.

따라서 c=0,d=−a다. 이것으로 끝내면 B² 조건을 빠뜨린다. 현재 B의 제곱은 [[a²,0],[0,a²]]이므로 실수 a는 0이어야 한다. 결국

\boxed{B=bN=\begin{pmatrix}0&b\\0&0\end{pmatrix}\quad(b\in\mathbb R).}

반대로 이런 B는 B²=O이고 N+B=(1+b)N이어서 두 번째 제곱도 O다. b=0뿐 아니라 b=−1, 2도 가능하다. 특히 b=−1에서는 합 N+B 자체가 O여도 문항의 조건에 맞는다.

B²=O 하나만으로는 충분하지 않다. B=[[0,0],[1,0]]도 제곱하면 O지만 N+B=[[0,1],[1,0]]은 제곱하면 단위행렬 E다. 반대로 NB+BN=O만 남기면 B=[[1,0],[0,−1]]이 들어오지만 이 B의 제곱도 E다. 두 식을 모두 끝까지 사용해야 전체 답이 된다.

풀이를 비교할 때 NB+BN을 바로 2NB로 바꾼 줄이 있는지 살핀다. 두 곱의 순서를 바꿀 수 있다는 전제는 주어지지 않았다. 먼저 네 성분을 계산해 c와 a+d의 조건을 얻고, 남은 B²에서 a를 지우는 순서가 필요하다.

출처·착안: Jo Morgan, 「Matrix Multiplication」. 이 문항과 풀이는 새로 작성했다.