이제 학습을 실행하는 일만 남았습니다.
train_history = model.fit(
dataset,
steps_per_epoch=STEPS_PER_EPOCH,
epochs=2
)
model.save_weights("jigsaw_bert.h5")
transformers.BertConfig.from_pretrained("bert-base-uncased").to_json_file(
"config.json"
)
학습이 완료되면 학습된 가중치와 모델의 configuration을 저장합니다. 학습된 가중치는 나중에 만들 서브미션 노트북으로 불러와서 테스트 데이터 예측에 사용합니다. 여기서 configuration을 같이 저장하는 이유는 서브미션 노트북에서는 인터넷 접근이 불가능하기 때문에 BERT 모델의 configuration을 다운로드할 수 없기 때문입니다.