잠깐만요 인공 신경망의 역사

오늘날 사용하고 있는 딥러닝도 따지고 보면 퍼셉트론과 구조가 비슷합니다. 하지만 1958년에 발표한 퍼셉트론이 왜 오늘날에 와서야 주목을 받을까요? 퍼셉트론에 있던 여러 문제점을 해결할 방법을 찾았기 때문입니다. 1969년 마빈 민스키(Marvin Minsky)와 새뮤얼 페퍼트(Seymour Papert)가 “Perceptrons: an introduction to computational geometry” 논문에서 퍼셉트론의 치명적인 약점을 찾아냈습니다. 하지만 연구자들은 거기에서 멈추지 않고 1986년에 데이비드 럼멜하트(David E. Rumelhart)와 제임스 맥클레랜드(James McClelland)는 “Parallel Distributed Processing”에서 퍼셉트론 문제를 해결할 수 있는 방법으로 다층 퍼셉트론(Multi-Layer Perceptrons, MLP)과 오차 역전파법(backpropagation algorithm)을 제시했습니다. 딥러닝처럼 여러 층을 가진 신경망을 구성하여 기존 퍼셉트론의 한계를 극복하고, 여러 층이 생기면서 늘어난 계산량을 ‘오차 역전파’라는 알고리즘로 해결했죠.

이후 다층 퍼셉트론에 대한 꾸준한 연구와 학습 알고리즘의 발전, 빠르게 계산할 수 있는 GPU 등 하드웨어의 발전에 힘입어 딥러닝 기술이라는 인공 신경망이 오늘날처럼 두각을 나타낼 수 있었습니다.