이미지 같은 밀집 데이터에도 임베딩을 적용할 수 있습니다. 예를 들면 그림 1-1과 같이 합성곱 신경망(convolutional neural network, CNN)의 마지막 층이 임베딩 벡터를 출력합니다.

▲ 그림 1-1 입력에 사용되는 임베딩(왼쪽)과 신경망으로부터 얻은 임베딩(오른쪽)

기술적으로 정확히 말하면 신경망의 모든 중간 층에서 임베딩 벡터를 출력할 수 있습니다. 훈련 목적에 따라 출력층도 유용한 임베딩 벡터를 만들 수 있습니다. 그림 1-1의 합성곱 신경망에서는 끝에서 두 번째 층을 임베딩과 연결지었습니다.