LLM은 이전 대화 내용을 스스로 저장하지 않으며, 웹 검색, 데이터베이스 조회, 코드 실행 같은 외부 작업도 직접 수행할 수 없습니다. 랭체인은 이러한 기능을 애플리케이션에 연결할 수 있는 다양한 구성 요소를 제공합니다. 대화 상태를 관리하고, 외부 기능을 연결하며, 여러 실행 단계를 하나의 흐름으로 구성할 수 있습니다. 즉, 랭체인은 LLM을 중심으로 여러 기능을 연결해 하나의 애플리케이션 구조를 만드는 프레임워크입니다.
표 2-1 LLM 단독 사용과 랭체인 사용 비교
|
구분 |
LLM 단독 사용 시 |
랭체인 사용 시 |
|
대화 이력 관리 |
대화 이력을 직접 관리해야 함 |
Memory를 통해 대화 기록 관리 |
|
외부 데이터 연결 |
외부 데이터 연동을 직접 구현해야 함 |
Tool을 통해 웹 검색 및 DB 연결 |
|
기능 실행 |
외부 작업(코드 실행, 파일 읽기 등) 불가 |
Agent + Tool 구조로 기능 실행 |
|
긴 문서 처리 |
긴 문서 처리 어려움 |
Retriever로 필요한 내용만 추출 |
|
작업 흐름 구성 |
복잡한 흐름 구성 어려움 |
Chain으로 여러 단계 연결 |