LLM은 방대한 정보를 바탕으로 텍스트를 생성하는 데 매우 뛰어난 성능을 보이지만, 실제 업무에 적용하려고 하면 여러 한계에 부딪히게 됩니다. 예를 들어 ‘현재 서울의 날씨는?’이라는 질문에 대해 LLM은 과거의 데이터를 기반으로 추측은 할 수 있어도, 실시간 정보를 직접 조회할 수는 없습니다. 마찬가지로 주가, 환율, 뉴스, 혹은 각 기업의 사내 시스템의 데이터 등 시시각각 변하는 외부 정보를 다루는 일에는 제약이 있습니다.