가상 표시판의 입력 x,y는 각각 불이 꺼지면 0, 켜지면 1입니다. 두 입력 중 딱 하나만 켜졌을 때 출력도 켜고, 둘 다 꺼졌거나 둘 다 켜졌을 때는 출력을 끄고 싶습니다. 이 네 가지 진리표를 XOR라고 해요. 실제 안전 장치가 아니라 분류 규칙의 한계를 보는 수학 예예요.
하나의 단순 인공 뉴런이 점수 wx+vy를 계산하고, 기준 t 이상이면 1을 출력한다고 해 볼까요? 가중치 w,v와 기준 t는 어떤 실수여도 돼요. (0,0)에서 꺼져야 하므로 0<t입니다. (1,0)과 (0,1)에서 켜져야 하므로 각각 w≥t, v≥t여야 해요.
그렇다면 (1,1)의 점수는 다음 조건을 만족해요.
이는 (1,1)에서도 켜진다는 뜻이므로, 둘 다 켜지면 꺼야 한다는 목표와 모순됩니다. 따라서 가중치를 잘 고르는 것만으로 하나의 선형 임계 뉴런이 XOR를 구현할 수는 없어요.
신경망 전체가 XOR를 처리하지 못한다는 결론은 아니에요. 여러 중간 규칙을 연결하거나 입력을 비선형으로 바꾸면 표현할 수 있어요. 이번 답은 네 입력의 조건을 동시에 만족시키는 단일 가중합 임계식이 없다는 거예요. 입력 한두 개에서 맞는다는 확인만으로 전체 분류 규칙의 성공을 판정할 수는 없어요.
참고한 수학 개념: Plus · Maths in a minute: Artificial neurons.
이 글의 생활 상황과 계산 예시는 수학 이야기에서 새로 구성했습니다.