서포트 벡터 머신은 데이터들을 올바르게 분리하면서 마진 크기를 최대화해야 하는데, 결국 이상치(outlier)⁵를 잘 다루는 것이 중요합니다. 이때 이상치를 허용하지 않는 것을 하드 마진(hard margin)이라고 하며, 어느 정도의 이상치들이 마진 안에 포함되는 것을 허용한다면 소프트 마진(soft margin)이라고 합니다. 그림 3-7이 이상치를 허용하지 않는 하드 마진이라면, 그림 3-8은 이상치를 허용하는 소프트 마진입니다.

▲ 그림 3-8 서포트 벡터 머신의 마진

이제 코드로 서포트 벡터 머신을 자세히 살펴보겠습니다. 서포트 벡터 머신의 예제도 붓꽃 분류로 진행해 보겠습니다. 하지만 코드로 풀어 나가는 방법은 다르므로 잘 살펴보기 바랍니다.

▲ 그림 3-9 서포트 벡터 머신 예제