2 들어오는 신호 세기를 조절하는 활성화 함수

심층 신경망의 뉴런은 연결되어 있는 뉴런들에게 신호를 전달합니다. 이때 앞에서 뒤로 신호를 전달하는 방식처럼 신호를 전달하는 방향은 단일 방향이며, 신호를 받는 뉴런이 하나의 뉴런에만 연결된 것이 아니라 여러 뉴런에 연결되어 있다는 특징이 있습니다.

그림 5-4 | 서로 연결된 뉴런의 모습

인공 신경망은 이러한 우리 뇌 속에 있는 신경망의 모습을 흉내 낸 것입니다. 즉, 뉴런의 연결된 모습을 논리적으로 구현하였죠. 인공 신경망에서의 앞쪽 뉴런들은 뒤쪽에 연결된 뉴런에게 신호를 전달합니다.