이를 위해 주어진 선의 오차를 평가하는 방법이 필요합니다. 오차를 구할 때 가장 많이 사용되는 방법이 평균 제곱 오차(Mean Square Error, MSE)입니다. 지금부터 평균 제곱 오차를 구하는 방법을 알아보겠습니다. 앞서 나온 공부한 시간과 성적의 관계도를 다시 한 번 볼까요?

그림 4-5 | 공부한 시간과 성적의 관계도

우리는 조금 전 최소 제곱법을 이용해 점들의 특성을 가장 잘 나타내는 최적의 직선이 y = 2.3x + 79임을 구했지만, 이번에는 최소 제곱법을 사용하지 않고 아무 값이나 a와 b에 대입해 보겠습니다. 임의의 값을 대입한 후 오차를 구하고 이 오차를 최소화하는 방식을 사용해서 최종 a 값과 b 값을 구해 보겠습니다.