더북(TheBook)

 

4장 오차 수정하기: 경사 하강법

Deep Learning for everyone icon_day

 

우리는 앞서 기울기 a를 너무 크게 잡으면 오차가 커지는 것을 확인했습니다. 기울기를 너무 작게 잡아도 오차가 커집니다. 기울기 a와 오차 사이에는 이렇게 상관관계가 있음을 알 수 있습니다.

a를 무한대로 키우면 오차도 무한대로 커지고 a를 무한대로 작게 해도 역시 오차도 무한대로 작아지는 이러한 관계는 이차 함수 그래프로 표현할 수 있습니다. 그림 4-1은 기울기 a와 오차와의 관계를 이차 함수 그래프로 그려본 것입니다.

 

063

그림 4-1 기울기 a와 오차와의 관계: 적절한 기울기를 찾았을 때 오차가 최소화된다.

신간 소식 구독하기
뉴스레터에 가입하시고 이메일로 신간 소식을 받아 보세요.