2.1.1 파인튜닝

파인튜닝(Fine-Tuning)은 기존의 LLM을 특정한 작업이나 상황에 맞게 조금 더 훈련시키는 과정입니다. 쉽게 말해 이미 많은 것을 배운 LLM을 특별한 상황에 더 잘 맞게 ‘가르치는’ 것과 같습니다.

예를 들어 언어를 처리하는 LLM이 이미 많은 책과 글을 읽어서 여러 가지 언어를 이해하는 법을 배웠다고 가정해봅시다. 이제 이 모델을 의학 분야에서 전문적으로 사용하고 싶다면 의학 관련 문서를 추가로 학습시키는데, 이러한 과정을 ‘파인튜닝’이라고 합니다. 이렇게 하면 이미 배운 기본 지식을 유지하면서 특정 분야에 더 정확하고 효과적으로 대응할 수 있게 되는 것이죠.

▲ 그림 2-1 파인튜닝