E와 O는 이 글에서 쓰는 크기의 단위행렬과 영행렬이다.
곱셈 순서를 바꿀 수 없다는 사실에서, 순서가 다른 모든 계산의 결과가 반드시 다르다고 결론 내려도 되는가? A=[[1,0],[0,0]], B=[[0,1],[0,0]]으로 검토한다.
B²=O이므로 가운데 순서가 달라도 양쪽 결과가 영행렬이 된다. 따라서 질문의 주장은 거짓이다. 항상 성립하는 공식이 아니라는 설명과 어떤 경우에도 같아질 수 없다는 설명을 구별해야 한다.
일반적인 조건은 차를 직접 적어 얻는다.
AB=BA이면 이 차는 0이지만, 그것만이 차를 0으로 만드는 방법은 아니다. 위 반례에서는 0이 아닌 가운데 행렬이 양쪽 곱에서 사라진다.
물론 항상 같다는 주장도 틀린다. A=[[1,1],[0,0]], B=[[0,0],[0,1]]로 바꾸면 (AB)²=O이고 A²B²=AB≠O이다. 두 쌍을 함께 제시해 학생이 반례의 목적을 구별하는지 확인한다. 한 쌍은 반드시 다르다는 주장을, 다른 쌍은 항상 같다는 주장을 반박한다.
출처·착안: Matthew Simonson, 「Matrix Multiplication Made Easy」. 문항과 풀이는 새로 작성했다.