더북(TheBook)

① 학습 과정에서 모델 성능에 대한 개선이 없을 경우 학습률 값을 조절하여 모델의 개선을 유도하는 콜백 함수입니다.

lr_scheduler.ReduceLROnPlateau: ReduceLROnPlateau는 검증 데이터셋에 대한 오차의 변동이 없으면 학습률을 factor배로 감소시킵니다.

optimizer: 파라미터(가중치)를 갱신시키는 부분으로, 여기에서는 아담(optim.Adam)을 사용합니다.

mode: 언제 학습률을 조정할지에 대한 기준이 되는 값입니다. 만약 검증 데이터셋에 대한 오차(val_loss)를 기준으로 사용하면 오차가 더 이상 감소되지 않을 때 학습률을 조정하게 됩니다. 이때 오차 값이 최소(min)가 되어야 하는지, 최대(max)가 되어야 하는지 알려 주는 파라미터가 mode입니다. 예를 들어 학습률 조정의 기준이 되는 값을 모델의 정확도(val_acc)로 사용하면 값이 클수록 좋기 때문에 'max'를 지정하고, 모델의 오차(val_loss)로 사용할 경우 작을수록 좋기 때문에 'min'을 지정합니다. 예제에서는 모델의 오차를 사용하기 때문에 'min'을 사용했습니다.

patience: 학습률을 업데이트하기 전에 몇 번의 에포크를 기다려야 하는지 결정하는 것으로, 여기에서는 다섯 번의 에포크를 기다리도록 설정했습니다.

신간 소식 구독하기
뉴스레터에 가입하시고 이메일로 신간 소식을 받아 보세요.