더북(TheBook)

4.3.5 심층 신뢰 신경망

심층 신뢰 신경망(Deep Belief Network, DBN)은 입력층과 은닉층으로 구성된 제한된 볼츠만 머신을 블록처럼 여러 층으로 쌓은 형태로 연결된 신경망입니다. 즉, 사전 훈련된 제한된 볼츠만 머신을 층층이 쌓아 올린 구조로, 레이블이 없는 데이터에 대한 비지도 학습이 가능합니다. 부분적인 이미지에서 전체를 연상하는 일반화와 추상화 과정을 구현할 때 사용하면 유용합니다.

심층 신뢰 신경망의 학습 절차는 다음과 같습니다.

1. 가시층과 은닉층 1의 제한된 볼츠만 머신을 사전 훈련합니다.

2. 첫 번째 층 입력 데이터와 파라미터를 고정하여 두 번째 층 제한된 볼츠만 머신을 사전 훈련합니다.

3. 원하는 층 개수만큼 제한된 볼츠만 머신을 쌓아 올려 전체 DBN을 완성합니다.

 

▲ 그림 4-29 심층 신뢰 신경망

심층 신뢰 신경망의 특징은 다음과 같습니다.

순차적으로 심층 신뢰 신경망을 학습시켜 가면서 계층적 구조를 생성합니다.

비지도 학습으로 학습합니다.

위로 올라갈수록 추상적 특성을 추출합니다.

학습된 가중치를 다층 퍼셉트론의 가중치 초깃값으로 사용합니다.

신간 소식 구독하기
뉴스레터에 가입하시고 이메일로 신간 소식을 받아 보세요.