Note ≡ 지역 최소점과 전역 최소점

손실 함수의 값은 0이 가장 이상적입니다. 하지만 현실적으로 0 값을 찾는 것은 쉽지 않기 때문에 최대한 가장 작은 값을 찾는 것이 중요합니다. 이때 가장 작은 값을 찾았다고 생각되는 지점이 지역 최소점입니다. 하지만 이러한 점들은 무척 많이 발생할 수 있기 때문에 지역 최소점(local minimum) 중 가장 작은 값을 갖는 지점을 정답으로 간주하여 전역 최소점(global minimum)이라고 합니다.

▲ 그림 4-12 지역 최소점과 전역 최소점