인공 신경망은 신경망을 모방했으므로 신경망의 역치 개념을 사용합니다. 뉴런으로 들어오는 여러 신호를 조절하기 위해서죠. 이를 위한 방법으로 활성화(Activation) 함수를 사용합니다. 이 활성화 함수는 앞으로 계속 등장하니 눈여겨보세요.

앞에서 살펴보았듯이 하나의 뉴런은 여러 뉴런과 연결되어 있습니다. 이렇게 여러 뉴런에 연결되어 있어 여러 군데에서 신호가 들어옵니다. 그렇기 때문에 각 뉴런에서 전달받는 신호들을 종합해서 그 신호 세기를 판단할 필요가 있습니다. 즉, 여러 뉴런에서 들어온 신호 세기를 특정한 값으로 바꾸기 위해 활성화 함수를 사용하는 것이죠.

이처럼 활성화 함수는 신호 세기를 조절하는데, 특히 레이어와 레이어 사이에 있어 여러 뉴런에서 특정한 뉴런으로 들어가는 신호를 종합해서 하나의 값으로 바꾸어 주는 역할을 합니다.