우선 가장 기본이 되는 분석 기법인 선형 회귀 분석을 먼저 살펴보자. 딥러닝의 시대에도, 분석의 목적에 따라 선형 회귀(linear regression) 분석은 여전히 많이 사용되고 있다. 이러한 선형 회귀 분석은 영국의 우생학자 프랜시스 골턴(Francis Galton, 1822-1911)에 의해 시작되었다.

골턴은 처음에 아버지와 아들의 키 관계를 연구하며 회귀(regression)라는 용어를 처음 사용하였다. 연구 내용을 보면 아버지의 키가 큰 경우 아들의 키는 작고, 아버지의 키가 작은 경우 아들의 키가 큰 것으로, 이들의 키는 평균으로 가려는 경향이 있다는 것이다. 그리고 부모의 키가 아들의 키에 영향을 주지만, 아들의 키는 그 세대 전체의 평균 키로 회귀한다는 사실을 밝혀냈다.

▲ 그림 7-2 프랜시스 골턴