퍼셉트론 두 개로 특징 공간을 세 개의 부분 공간으로 나눌 수 있다.

두 퍼셉트론을 병렬로 결합하면 ($x_1$,$x_2$) 공간을 ($z_1$,$z_2$) 공간으로 변환한다.

새로운 공간 ($z_1$,$z_2$) 에서는 선형 분리가 불가능하던 네 점이 선형 분리가 가능해진다.

즉, 퍼셉트론을 하나 더 쓰면 XOR 문제를 해결하는 신경망이 완성된다.

결국 신경망을 공간 변환기로 볼 수 있다.

원래 특징 공간을 임시 공간으로 변환하고, 임시 공간을 레이블 공간으로 변환하는 두 단계 처리를 수행한다.

은닉층: 임시 공간에 해당하는 층

임시 공간: 은닉 공간(hidden space) 혹은 **잠복 공간(latent space)**라고 부름.

새로운 공간은 이전 공간보다 분류에 더 유리하도록 학습된다.

다층 퍼셉트론의 구조: 입력층 + 은닉층 + 출력층

은닉층의 노드 개수: 하이퍼 매개변수

가중치 행렬 $U^1$과 $U^2$

다층 퍼셉트론의 동작

훈련 집합에 있는 샘플 전체를 한꺼번에 처리하는 경우