3.6.2 층에서 모델로
딥러닝 모델은 층으로 구성된 그래프입니다. 케라스에서는 Model 클래스에 해당합니다. 지금까지 (Model의 서브클래스인) Sequential 모델만 보았습니다. 이 모델은 단순히 층을 쌓은 것이고 하나의 입력을 하나의 출력에 매핑합니다. 하지만 앞으로 배우다 보면 매우 다양한 종류의 네트워크를 보게 될 것입니다. 다음은 그중 자주 등장하는 구조입니다.
• 2개의 가지(two-branch)를 가진 네트워크
• 멀티헤드(multihead) 네트워크
• 잔차 연결(residual connection)
네트워크 구조(topology)는 꽤 복잡할 수 있습니다. 예를 들어 그림 3-9는 텍스트 데이터를 처리하기 위해 설계되어 널리 사용되는 트랜스포머(Transformer) 층의 구조입니다.
▲ 그림 3-9 트랜스포머 구조(11장에서 다룬다). 이 구조 안에서 많은 작업이 수행되며 이어지는 몇 개의 장을 거치면서 점차 이를 이해해 보자