머신 러닝에는 두 종류의 파라미터가 있습니다. 하나는 훈련 데이터에서 학습되는 파라미터입니다. 예를 들어 로지스틱 회귀의 가중치입니다. 다른 하나는 별도로 최적화되는 학습 알고리즘의 파라미터입니다. 후자는 모델의 튜닝 파라미터고, 하이퍼파라미터라고도 부릅니다. 예를 들어 로지스틱 회귀의 규제 매개변수나 결정 트리의 최대 깊이 매개변수입니다.

이전 절에서 검증 곡선을 사용하여 하이퍼파라미터 하나를 튜닝하여 모델 성능을 향상시켰습니다. 이 절에서는 그리드 서치라는 인기 있는 하이퍼파라미터 최적화 기법을 알아보겠습니다. 하이퍼파라미터 값에 대한 최적의 조합을 찾음으로써 모델 성능을 향상시키는 데 큰 도움이 됩니다.