더북(TheBook)

업데이트 게이트

업데이트 게이트(update gate)는 과거와 현재 정보의 최신화 비율을 결정하는 역할을 합니다.

시그모이드로 출력된 결과(zt)는 현시점의 정보량을 결정하고 1에서 뺀 값(1-zt)을 직전 시점의 은닉층 정보와 곱합니다. 이를 수식으로 나타내면 다음과 같습니다.

그림으로는 다음과 같이 표현할 수 있습니다.

▲ 7-27 업데이트 게이트

신간 소식 구독하기
뉴스레터에 가입하시고 이메일로 신간 소식을 받아 보세요.