더북(TheBook)

(5) 메모리

메모리(Memory)는 사용자 답변에 대해 지속적인 대화 문맥을 유지하고, 사용자 맞춤형 응답을 제공하는 역할을 합니다. 즉, AI와 사람이 대화를 할 때, 현재뿐만 아니라 과거의 대화도 잊지 않고 기억할 수 있도록 하는 메커니즘입니다.

AI 에이전트의 메모리는 단기 메모리와 장기 메모리로 나뉩니다. 단기 메모리는 현재 대화 세션 동안만 정보를 유지하는 반면에 장기 메모리는 여러 대화 세션에 걸쳐 정보를 저장합니다.

▼ 표 4-2 메모리 유형

유형

설명

예시

단기 메모리
(Short-Term Memory, STM)

대화 중에만 정보를 유지하며, 대화가 끝나면 삭제됩니다

챗봇이 한 대화 세션 동안 문맥을 유지합니다

장기 메모리
(Long-Term Memory, LTM)

여러 대화 세션에 걸쳐 정보를 지속적으로 유지합니다

쇼핑 AI가 사용자의 선호 스타일을 학습하고 유지합니다

뒤에서 배우겠지만 랭체인, 랭그래프, AutoGPT와 같은 프레임워크는 모두 메모리 관리 모듈을 제공하여 개발자가 더 쉽게 메모리를 관리할 수 있는 애플리케이션을 개발할 수 있도록 지원하고 있습니다.

신간 소식 구독하기
뉴스레터에 가입하시고 이메일로 신간 소식을 받아 보세요.