Note ≡ 평균으로 회귀
회귀는 1886년 프란시스 갈톤(Francis Galton)이 쓴 “Regression towards Mediocrity in Hereditary Stature”에서 유래되었습니다. 갈톤은 사람 키의 분산이 시대가 흘러도 증가하지 않는 생물학적 현상을 설명했습니다.
그는 부모의 키가 자녀에게 전달되지 않는 것을 관찰했습니다. 오히려 자녀 키는 인구 전체 평균으로 회귀합니다.
그림 1-4는 선형 회귀(linear regression)의 개념을 나타냅니다. 특성 x와 타깃 y가 주어지면 데이터 포인트와 직선 사이 거리가 최소가 되는 직선을 그을 수 있습니다. 일반적으로 평균 제곱 거리를 사용합니다.
이렇게 데이터에서 학습한 직선의 기울기와 절편(intercept)3을 사용하여 새로운 데이터의 출력 값을 예측합니다.