다음 그림은 40번째 계층에서 특성 맵에 대한 출력 결과입니다.

▲ 그림 5-49 40번째 계층에서 특성 맵

이제 원래 입력 이미지에 대한 형태는 전혀 찾아볼 수 없습니다. 즉, 출력층에 가까울수록 원래 형태는 찾아볼 수 없고, 이미지 특징들만 전달되는 것을 확인할 수 있습니다.

지금까지 특성 맵을 시각화하여 CNN의 내부 구조를 살펴보았습니다. 최근 딥러닝 결과에 대한 신뢰성이 문제가 되면서 설명 가능한 인공지능이 이슈가 되고 있는데, CNN은 필터와 특성 맵을 시각화해서 CNN 결과의 신뢰성을 확보할 수 있습니다.