어떻게 가능한 것일까요? 앞에서 분명 깊이가 깊어질수록 파라미터 수가 증가한다고 했습니다. 하지만 병목 블록을 사용하면 파라미터 수가 감소하는 효과를 줄 수 있습니다. 합성곱층을 자세히 보면 ResNet34와는 다르게 ResNet50에서는 3×3 합성곱층 앞뒤로 1×1 합성곱층이 붙어 있는데, 1×1 합성곱층의 채널 수를 조절하면서 차원을 줄였다 늘리는 것이 가능하기 때문에 파라미터 수를 줄일 수 있었던 것입니다. 그리고 이 부분이 병목과 같다고 하여 병목 블록이라고 합니다.

이제 중요한 아이덴티티 매핑(identity mapping)(혹은 숏컷(shortcut), 스킵 연결(skip connection)이라고도 함)에 대해 알아보겠습니다. 그림 6-27의 아래쪽에 + 기호가 있습니다(기본 블록과 병목 블록 모두에서 사용됩니다). 이 부분을 아이덴티티 매핑이라고 합니다. 아이덴티티 매핑이란 입력 x가 어떤 함수를 통과하더라도 다시 x라는 형태로 출력되도록 합니다.

▲ 그림 6-28 아이텐티티 매핑(숏컷)