업데이트 게이트

    업데이트 게이트(update gate)는 과거와 현재 정보의 최신화 비율을 결정하는 역할을 합니다.

    시그모이드로 출력된 결과(zt)는 현시점의 정보량을 결정하고 1에서 뺀 값(1-zt)은 직전 시점의 은닉층 정보와 곱합니다. 이를 수식으로 나타내면 다음과 같습니다.

    그림으로는 다음과 같이 표현할 수 있습니다.

    ▲ 그림 7-22 업데이트 게이트

    신간 소식 구독하기
    뉴스레터에 가입하시고 이메일로 신간 소식을 받아 보세요.