1990년대에는 인공 신경망 개념을 활용한 초기 합성곱 신경망(CNN, Convolutional Neural Network)이 일부 성공 사례를 보이며 주목받기 시작했습니다. CNN은 이미지와 같은 공간적 구조를 가진 데이터를 처리하고 학습하기 위해 설계된 신경망입니다.

여러 층의 구조를 활용해 이미지의 특징을 추출하는 아이디어 자체는 이미 1980년대 후쿠시마 쿠니히코(Kunihiko Fukushima)가 네오코그니트론(Neocognitron)을 통해 제안한 바 있었습니다. 네오코그니트론은 이미지의 저수준 특징(예 선, 모서리)에서 시작해 고수준 특징(예 복잡한 패턴)을 점진적으로 학습하는 계층적 구조를 도입한 모델입니다.

▲ 그림 1-26 네오코그니트론 학습 구조
출처: https://dickson-wu.medium.com/paper-summary-neocognitron-a-self-organizing-neural-network-model-for-a-mechanism-of-pattern-16fac734e64