LSTM 유닛은 셀 상태와 세 가지 게이트로 구성됩니다.
• 셀 상태: LSTM의 핵심적인 정보 저장 공간으로, 장기 정보를 유지합니다. 셀 상태는 각 시간 단계에 따라 흐르며, 정보를 선택적으로 추가하거나 제거합니다.
• 망각 게이트(forget gate): 이전 셀 상태와 입력 데이터를 기반으로 어떤 정보를 남기고 버릴지 결정해 불필요한 정보의 축적을 방지합니다.
• 입력 게이트(input gate): 현재 시간 단계에서 입력된 데이터 중 어떤 정보를 셀 상태에 추가할지 결정합니다.
• 출력 게이트(output gate): 셀 상태를 기반으로 어떤 정보를 은닉 상태로 출력할지 결정하며, 이 은닉 상태는 다음 시간 단계로 전달됩니다.
이러한 구조로 LSTM은 정보의 추가와 삭제를 조절하고, 긴 시퀀스에도 비교적 안정적으로 정보를 전달합니다. 결과적으로 장기 기억을 유지할 수 있는 통로가 생기면서 오랜 과거 정보도 모델의 예측에 반영할 수 있게 되었습니다.