데이터 품질을 높이는 것은 과대적합을 감소하기 위한 첫 번째 단계입니다. 하지만 많은 파라미터를 가진 최근 심층 신경망에서는 적절한 과대적합 수준을 달성하기 위해서 더 많은 일을 해야 합니다. 따라서 드롭아웃, 가중치 감쇠 같은 기법과 함께 데이터 증강과 사전 훈련이 과대적합 감소를 위한 중요한 방법입니다.

실전에서 부가 효과(additive effect)를 위해 과대적합을 줄이는 여러 방법을 동시에 사용할 수 있고 또 사용해야만 합니다. 최상의 결과를 얻으려면 어떤 기법을 선택할지를 하이퍼파라미터 최적화 문제로 취급하세요.