이처럼 공장 기계에 비유하는 것은 학습 알고리즘이 특성과 타깃 간 관계를 학습하는 방법을 이해하는 좋은 시작점입니다. 우리는 이 기계 앞에 앉아서 작동이라고 써 있는 초록색 버튼을 누릅니다. 원자재가 기계 왼쪽으로 들어가면 오른쪽에서 무언가가 튀어나옵니다. 호기심이 생겨 손잡이를 돌리고 스위치를 조작해 봅니다. 이전과는 무언가 다른 것이 튀어나오기 시작합니다. 1번 손잡이를 돌렸더니 기계가 입력 물체가 내는 소리 정보에 집중합니다. 2번 손잡이를 반대로 돌렸더니 이번에는 기계가 입력 물체의 다리 개수를 무시합니다. 기계 손잡이를 적절히 조작하면 우리가 원하는 목표에 가까운 결과를 얻을 수 있게 됩니다.

학습 알고리즘은 기계의 제어 장치를 조작하는 방법에 대한 공식적인 규칙입니다. 사례와 그에 대응되는 타깃이 입력되면, 학습 알고리즘은 주어진 커다란 블랙박스를 가져다 잘 정의된 방법을 이용해서 손잡이와 스위치에 적절한 값을 설정합니다. 적절하다는 것은 보통 정의하기 어렵지만, 우리에게는 타깃 값이라는 명확한 기준이 있습니다. 우리의 타깃 값이죠. 출력 값과 타깃 값이 서로 다르다면 문제가 있습니다. 예시에 나온 기계를 학습 모델(learning model) 혹은 모델(model)이라고 합니다.

사례가 기계 안으로 들어가면, 손잡이와 스위치 설정에 따라 어떤 클래스나 수치적인 값이 튀어나옵니다. 입력 데이터가 같아도 다른 결과가 나오길 바라나요? 손잡이를 돌리거나 스위치를 누르면 됩니다. 어떤 기계에는 제어 장치에 달린 손잡이와 스위치가 고정되어 있습니다. 손잡이를 돌릴 수는 있지만 새로운 손잡이를 추가할 수는 없지요. 손잡이를 새로 추가하면 이 기계는 이전과는 완전히 다른 기계가 됩니다. 손잡이에 기반한 학습 모델 간 차이는 다음 세 가지 질문으로 요약할 수 있습니다.

1. 어떤 손잡이와 스위치가 달려 있나요? 제어 장치에 무엇이 붙어 있나요?

2. 손잡이와 스위치가 입력 데이터와 어떻게 상호 작용하나요? 기계 내부에서는 어떤 일이 일어나나요?

3. 확보한 데이터를 바탕으로 어떻게 손잡이를 설정하나요? 입력 데이터와 우리가 바라는 출력을 어떻게 연결할 수 있을까요?