전반적으로 오차가 줄어드는 범위는 크지 않습니다. 하지만 드롭아웃을 적용했을 때의 오차가 더 낮은 것을 확인할 수 있습니다. 이제 그래프를 자세히 살펴보겠습니다. 출력 결과에서 초록색 점선(드롭아웃이 적용된 모델)과 파란색 실선(드롭아웃이 적용되지 않은 모델)의 차이가 크지 않아 보일 수 있지만 이 정도면 실제로는 큰 차이가 있는 상태입니다. 훈련 횟수가 늘어날수록 파란색 실선은 가장자리의 자주색 점들을 찾아가고 있습니다. 문제는 자주색 선이 훈련 데이터셋을 의미한다는 것이고, 이것은 다른 의미로 과적합 현상을 보이고 있다는 것입니다. 과적합이 발생하는 모델은 훈련 데이터에 대한 정확도는 높을 수 있지만 새로운 데이터, 즉 검증 데이터나 테스트 데이터에 대해서는 제대로 동작하지 않는 문제가 있습니다. 이와 같이 과적합 현상을 방지하기 위해 드롭아웃을 사용하며, 초록색 점선 그래프에서는 과적합 현상이 발생하지 않는 것을 확인할 수 있습니다.

이제 마지막으로 조기 종료에 대해 알아보겠습니다.