• 능동적 학습(active learning): 퓨샷 러닝이라고도 합니다. LLM은 표식이 지정된 예시를 소량만 받고 이를 기반으로 가장 유익한 예시를 찾아 표식을 지정해야 합니다. 이 방법은 모델의 성능을 개선하는 데 가장 도움이 되는 예시에 표식을 지정하는 데 집중하기 때문에 LLM을 좀 더 효율적으로 학습시킬 수 있습니다.

미세 조정은 모든 대화에 대해 전역적으로 이루어집니다. 능동적 학습에서 사용자는 프롬프트로 몇 가지 예시를 제공하여 결과가 특정 패턴을 따르도록 합니다.

예를 들어 결과가 ‘그 사람의 이름은 윤태진이고, 나이가 36세입니다.’였을 때, 사실 사용자는 JSON 형식으로 구성된 {"name": "윤태진", "age": 36}과 같은 응답을 원할 수도 있습니다. 이때 사용자는 원시 응답(raw response)으로 구성된 몇 가지 예시를 제공하고, 앞에서 표시된 것과 같이 명시적으로 JSON 형태로 출력하도록 LLM에 요청할 수 있습니다.

• 전이 학습(transfer learning): 전이 학습에서 LLM은 수행하기를 요청받은 작업과 유사한 작업을 학습합니다. 이 방법은 LLM이 더 큰 데이터 집합에서 학습할 수 있으므로 높은 품질의 응답을 생성하는 데 더 효과적입니다.

예를 들어 기존 작업이 영화 리뷰의 감성 분석이었고, 새로운 작업은 제품 리뷰의 감성 분석이라고 가정해 보겠습니다. 프롬프트는 다음과 같습니다.