이와 같이 최종 결괏값을 정규화하는 데 사용하는 함수가 바로 소프트맥스 함수입니다. 이 소프트맥스 함수를 사용하면 앞에서 살펴본 남자와 여자의 값을 0.4, 0.6과 같이 총 합이 1이 되도록 바꾸어 보여줍니다. 이 말은 남자일 확률이 40%이고 여자일 확률이 60%라고 인공지능 모델이 판단했다는 의미입니다. 이렇게 보면 기준이 명확해져서 판단하기 수월합니다.

인공 신경망의 출력층에 소프트맥스 함수를 사용하면 분류 문제를 해결할 수 있습니다. 남자인지 여자인지, 강아지인지 고양이인지, 특정 부위가 암인지 암이 아닌지와 같이 말이죠. 하지만 이와 같이 2개로만 분류할 수 있을까요? 물론 아닙니다.

출력층의 수에 따라서 분류의 개수 또한 달라집니다. 만약 출력층이 3개라면 3개로 분류할 수 있고, 10개라면 10개로 분류할 수 있는 것이죠. 0부터 9까지의 숫자를 분류하는 인공 신경망 모델에서는 출력층이 몇 개일까요? 10개를 분류해야 하기 때문에 출력층 또한 10개가 되겠죠.

이때 출력층의 값을 정규화하기 위해 소프트맥스 함수를 사용하여 모든 출력층의 값을 더했을 때 1이 되게끔 값을 바꾸어 줄 수 있습니다.

그림 5-14 | 이미지가 3일 확률은 70%로 가장 높다

이와 같은 소프트맥스 함수는 인공 신경망 모델에서 항상 사용되는 것이 아니라 분류 문제에서 사용되는 함수라고 볼 수 있습니다.

지금까지 활성화 함수를 살펴보았습니다. 이처럼 한 뉴런에서 다른 뉴런으로 신호를 전달하고 전달받을 때에는 가중치, 역치, 활성화 함수의 개념이 사용됩니다.