더북(TheBook)

출력 게이트

출력 게이트(output gate)는 과거 정보와 현재 데이터를 사용하여 뉴런의 출력을 결정합니다. 이전 은닉 상태(hidden state)t번째 입력을 고려해서 다음 은닉 상태를 계산합니다. 그리고 LSTM에서는 이 은닉 상태가 그 시점에서의 출력이 됩니다.

출력 게이트는 갱신된 메모리의 출력 값을 제어하는 역할을 합니다.

계산한 값이 1이면 의미 있는 결과로 최종 출력

계산한 값이 0이면 해당 연산 출력을 하지 않음

이것을 수식으로 정리하면 다음과 같습니다.

그림으로는 다음과 같이 표현할 수 있습니다.

▲ 7-19 출력 게이트

신간 소식 구독하기
뉴스레터에 가입하시고 이메일로 신간 소식을 받아 보세요.