더북(TheBook)

 

SECTION 6.2 다른 방법

지금까지 과대적합 감소를 위한 대표적인 기법을 살펴보았습니다. 5장은 데이터 측면에서 과대적합을 줄이는 방법을 다루었습니다. 모델을 바꾸어 과대적합을 줄이는 다른 방법으로는 (잔차 네트워크(residual network)에서 볼 수 있는) 스킵 연결(skip-connection), 룩 어헤드 옵티마이저(look-ahead optimizer)8, 확률적 가중치 평균(stochastic weight averaging)9, 다중 작업 학습(multitask learning)10, 스냅샷 앙상블(snapshot ensemble)11 등입니다.

신간 소식 구독하기
뉴스레터에 가입하시고 이메일로 신간 소식을 받아 보세요.