위의 두 사례(LLM 단독 처리, LLM+RAG)에서 사용자 질의는 하나의 문장으로 처리되었습니다. 즉, 작업을 분할하여 처리하지 않고 단일 과정으로 처리되었다는 의미입니다.

이제 LLM+RAG+AI 에이전트를 함께 사용하면 어떻게 되는지 알아볼까요? AI 에이전트가 적용되면 하나의 문장이 아닌 여러 작업으로 나눠서 처리됩니다.

예를 들어 동일한 질문을 했을 때 AI 에이전트는 사용자 질의를 다음과 같이 세 개의 하위 작업으로 분할합니다.

• 작업 1: 2024년 미국 대통령 찾기

• 작업 2: 대통령의 주요 경제 정책 세 가지 조사

• 작업 3: 경제 정책의 시장 반응 조사

세 개의 하위 작업으로 분할했으니 이제 LLM과 RAG에 역할을 분담합니다.

• 작업 1: RAG는 ‘2024년 대통령’을 검색합니다.

• 작업 2: RAG는 ‘대통령의 경제 정책’을 검색합니다.

• 작업 3: RAG는 ‘시장 반응’에 관한 최신 뉴스를 검색합니다.

• LLM은 각 작업의 결과를 이해하고 정리합니다.