4.3.4 K-겹 검증을 사용한 훈련 검증

(훈련에 사용할 에포크의 수 같은) 매개변수들을 조정하면서 모델을 평가하기 위해 이전 예제에서 했던 것처럼 데이터를 훈련 세트와 검증 세트로 나눕니다. 데이터 포인트가 많지 않기 때문에 검증 세트도 매우 작아집니다(약 100개의 샘플). 결국 검증 세트와 훈련 세트로 어떤 데이터 포인트가 선택되었는지에 따라 검증 점수가 크게 달라집니다. 즉, 검증 세트의 분할에 대한 검증 점수의 분산(variance)이 높습니다. 이렇게 되면 모델을 신뢰 있게 평가할 수 없습니다.

이런 상황에서 가장 좋은 방법은 K-겹 교차 검증(K-fold cross-validation)을 사용하는 것입니다(그림 4-8).

데이터를 K개의 분할(즉, 폴드(fold))로 나누고(일반적으로 K = 4 또는 5), K개의 모델을 각각 만들어 K - 1개의 분할에서 훈련하고 나머지 분할에서 평가하는 방법입니다. 모델의 검증 점수는
K개의 검증 점수 평균이 됩니다. 코드로 보면 이해하기 쉽습니다.

▲ 그림 4-8 3-겹 교차 검증