신경망은 뇌의 뉴런(neuron)을 모방한 머신 러닝 알고리즘이다. 하지만 신경망과 뇌가 어떻게 유사한지 구구절절이 설명하는 것보다 주어진 입력값을 출력으로 바꾸는 일종의 수학 함수로 설명하는 편이 훨씬 쉽다. 먼저 단일 레이어 신경망(퍼셉트론(perceptron)이라고도 한다)부터 살펴보자.

그림 1-4는 퍼셉트론을 간략하게 그린 것이다.

▲ 그림 1-4 퍼셉트론의 개념

사실 퍼셉트론은 일련의 입력을 받아 수학 공식에 대입하고 결과를 계산해 반환하는 단순한 함수다. 수학 공식도 매우 간단하다.

w_i는 퍼셉트론의 가중치다. 가중치의 자세한 내용은 1.3.2절부터 차차 설명한다. 우선 신경망을 완벽히 이해하기보다는 단순히 주어진 입력을 원하는 출력으로 바꾸는 수학 공식이라고만 생각하자.