더북(TheBook)

 

3오차 공식

 

이제 우리에게 주어진 과제는 또다시 a와 b의 값을 구하는 것임을 알았습니다. 시그모이드 함수에서 a와 b의 값을 어떻게 구해야 할까요? 답은 역시 경사 하강법입니다.

그런데 경사 하강법은 먼저 오차를 구한 다음 오차가 작은 쪽으로 이동시키는 방법이라고 했습니다. 그렇다면 이번에도 예측 값과 실제 값의 차이, 즉 오차를 구하는 공식이 필요합니다. 오차 공식을 도출하기 위해 시그모이드 함수 그래프의 특징을 다시 한번 살펴보겠습니다.

 

084_1

5-7 시그모이드 함수 그래프

 

시그모이드 함수의 특징은 y 값이 0과 1 사이라는 것입니다. 따라서 실제 값이 1일 때 예측 값이 0에 가까워지면 오차가 커져야 합니다. 반대로, 실제 값이 0일 때 예측 값이 1에 가까워지는 경우에도 오차는 커져야 합니다. 이를 공식으로 만들 수 있게 해 주는 함수가 바로 로그 함수입니다.

신간 소식 구독하기
뉴스레터에 가입하시고 이메일로 신간 소식을 받아 보세요.