앞에서 살펴본 것처럼 하나의 뉴런은 여러 뉴런과 연결되어 있습니다. 이렇게 여러 뉴런에 연결되어 있기 때문에 여러 군데에서 신호가 들어옵니다. 그렇기 때문에 각 뉴런에서 전달받는 신호들을 종합해서 그 신호 세기를 판단할 필요가 있습니다. 즉, 여러 뉴런에서 들어온 신호 세기를 특정한 값으로 바꾸기 위해 활성화 함수를 사용하는 것이죠.

이처럼 활성화 함수는 신호 세기를 조절하는데, 특히 레이어와 레이어 사이에 있어서 여러 뉴런에서 특정한 뉴런으로 들어가는 신호를 종합해서 하나의 값으로 바꿔 주는 역할을 합니다.

이렇게 하나의 뉴런으로 여러 신호가 들어갈 때에는 그림 5-8에서 보듯 관문처럼 활성화 함수를 거치게 됩니다.

그림 5-8 | 활성화 함수

마치 우리의 뇌에서 여러 신호를 받을 때 역치의 개념을 사용하여 신호 세기를 조절해서 받듯이, 인공 신경망에서는 활성화 함수로 신호를 조절하는 것이죠.