다른 분류 모델은 두 단계를 거쳐 결정을 내립니다. (1) 아웃풋의 가능성을 출력하는 모델을 만들고 (2) 그중에서 가장 가능성이 높은 아웃풋을 선택합니다. 예측 등급을 신경 쓰는 경우에는 이 방법을 더 선호합니다. 어떤 사람의 건강이 좋지 않을 가능성을 알고 싶다고 할까요? 이 경우 “이 사람은 아픕니다.”라는 일반적인 답변보다는 이 사람이 아플 확률은 90%라는 답변이 더 적절합니다. 이러한 접근 방식은 예측 결과의 비용이 비싼 현실 세계에서 매우 중요합니다. 비용을 고려하는 것이 중요하다면, 이를 해당 이벤트가 발생할 확률과 결합합니다. 결정 모델은 이를 바탕으로 현실 세계에 있는 서로 상충하는 요구 조건들의 균형을 맞추는 결정을 내릴 수 있습니다. 이제부터 분류 모델을 타입별로 하나씩 살펴보겠습니다. 최근접 이웃 모델은 아웃풋 클래스에 직접적으로 접근하는 데 반해, 나이브 베이즈 모델은 중간 결과물로 추정 확률을 출력합니다.