더북(TheBook)

 

SECTION 1.3 LLM의 구축 단계

LLM을 왜 직접 만들어야 할까요? 밑바닥부터 LLM을 구현해 보면 LLM의 메커니즘과 한계를 이해하는 데 크게 도움이 되기 때문입니다. 또한 기존의 오픈 소스(open source) LLM을 특정 도메인(domain)의 데이터셋이나 작업에 적용하기 위해 사전 훈련(pretraining)하거나 미세 튜닝(fine-tuning)하는 데 필요한 지식을 갖추게 됩니다.

NOTE

오늘날 대부분의 LLM은 파이토치(PyTorch) 딥러닝 라이브러리로 구현되므로 이 책에서도 파이토치를 사용하겠습니다. 파이토치에 대한 자세한 내용은 부록 A를 참고하세요.

신간 소식 구독하기
뉴스레터에 가입하시고 이메일로 신간 소식을 받아 보세요.