전이 학습은 앞서 잠깐 언급한 대로 ‘기존의 학습 결과를 가져와서 유사한 프로젝트에 사용하는 방법’을 의미합니다. 뇌 사진만 다루는 치매 분류기를 만드는데, 뇌 사진과 관련 없는 수백만 장의 이미지넷 학습 정보가 큰 역할을 하는 이유는 ‘형태’를 구분하는 기본적인 학습이 되어 있기 때문입니다. 예를 들어 딥러닝은 학습이 시작되면 어떤 픽셀의 조합이 ‘선’이고
어떤 형태의 그룹이 ‘면’이 되는지부터 파악해야 합니다. 아무런 정보도 없이 MRI 사진 판별을 시작한다면 이러한 기본적인 정보를 얻어 내는 데도 많은 시간을 쏟아야 합니다. 전이 학습이 해결해 주는 것이 바로 이 부분입니다. 대용량의 데이터를 이용해 학습한 가중치 정보를 가져와 내 모델에 적용한 후 프로젝트를 계속해서 진행할 수 있는 것입니다.

전이 학습을 적용하는 방법은 그림 20-5와 같습니다. 먼저 대규모 데이터셋에서 학습된 기존의 네트워크를 불러옵니다. CNN 모델의 앞쪽을 이 네트워크로 채웁니다. 그리고 뒤쪽 레이어에서 내 프로젝트와 연결합니다. 그리고 이 두 네트워크가 잘 맞물리게끔 미세 조정(fine tuning)을 하면 됩니다. 그림 20-5는 전이 학습의 구조를 보여 줍니다.

그림 20-5 | 전이 학습의 구조