이 과정을 조금 더 상세하게 그리면 그림 9-3과 같습니다.

그림 9-3 | 오차 역전파의 개념

먼저 ➊처럼 한 번의 순전파가 일어납니다. 이 과정을 통해 각 가중치의 초깃값이 정해집니다. 이 초깃값의 가중치로 만들어진 값과 실제 값을 비교해 출력층의 오차를 계산합니다. 목표는 이때 계산된 출력층의 오차를 최소화시키는 것입니다. 이를 위해 ➋ 첫 번째 가중치를 수정하는 과정과 ➌ 두 번째 가중치를 수정하는 과정이 이어집니다.