6장

6-1 훈련 에포크 횟수를 튜닝하는 것이 더 간단하고 일반적인 방법입니다. 모델 체크포인트를 지원하지 않는 구식 프레임워크를 사용하는 경우 특히 그렇습니다. 따라서 훈련 에포크 횟수를 바꾸는 것이 더 쉬운 해결책일 수 있습니다. 실행하고 평가하는 데 비용이 적게 드는 하이퍼파라미터 구성을 가진 모델과 작은 데이터셋에 매우 매력적입니다. 이 방법은 훈련하는 동안 검증 세트의 성능을 모니터링할 필요성이 없으므로 간단하고 사용하기 쉽습니다.

조기 종료와 체크포인트 저장 방식은 훈련 비용이 많이 드는 모델을 다룰 때 유용합니다. 이 방식은 일반적으로 유연하고 안정적으로 과대적합을 막는 방법입니다. 하지만 훈련 과정에 잡음이 많을 경우 검증 세트 정확도가 일반화 정확도에 대한 좋은 추정치가 되지 않음에도 불구하고 조기 종료 에포크를 우선시하게 된다는 것이 단점입니다.