더북(TheBook)

1.1.3 LLM의 한계

LLM은 매우 강력한 생성 능력을 갖추고 있지만, 실제 서비스에 적용할 때는 몇 가지 중요한 한계를 함께 고려해야 합니다. 이러한 한계는 성능뿐 아니라 시스템을 어떻게 설계하고 운영할 것인지를 결정하는 기준이 됩니다.

이번에는 LLM을 사용할 때 반드시 알아야 할 대표적인 한계와 이러한 한계가 실제 설계에 어떤 영향을 주는지 살펴봅니다.