3 최소 제곱법

이제 우리 목표는 가장 정확한 선을 긋는 것입니다. 더 구체적으로는 정확한 기울기 a와 정확한 y 절편 b를 알아내면 된다고 했습니다. 그런데 만일 우리가 최소 제곱법(method of least squares)이라는 공식을 알고 적용한다면, 이를 통해 일차 함수의 기울기 a와 y 절편 b를 바로 구할 수 있습니다.

지금 가진 정보가 x 값(입력 값, 여기서는 ‘공부한 시간’)과 y 값(출력 값, 여기서는 ‘성적’)일 때 이를 이용해 기울기 a를 구하는 방법은 다음과 같습니다.

(식 4.1)

이것이 바로 최소 제곱법 공식입니다. 쉽게 풀어서 다시 쓰면 x의 편차(각 값과 평균과의 차이)를 제곱해서 합한 값을 분모로 놓고, x와 y의 편차를 곱해서 합한 값을 분자로 놓으면 기울기가 나온다는 의미입니다. 실제로 우리가 가진 y(성적) 값과 x(공부한 시간) 값을 이 식에 대입해 보겠습니다.

먼저 x 값의 평균과 y 값의 평균을 구해 보면 다음과 같습니다.

• 공부한 시간(x) 평균: (2 + 4 + 6 + 8) ÷ 4 = 5

• 성적(y) 평균: (81+ 93 + 91 + 97) ÷ 4 = 90.5