▲ 그림 3-12 DeepSeek-R1 벤치마크 결과

참고로 DeepSeek-R1을 기반으로 한, 지식 증류 기술을 활용한 경량화 모델들도 존재합니다. 지식 증류는 앞에서 설명했듯이 더 큰 모델(교사 모델, Teacher Model)의 지식을 더 작은 모델(학생 모델, Student Model)에 전달하는 기술입니다.