서포트 벡터 머신은 데이터들을 올바르게 분리하면서 마진 크기를 최대화해야 하는데, 결국 이상치(outlier)5를 잘 다루는 것이 중요합니다. 이때 이상치를 허용하지 않는 것을 하드 마진(hard margin)이라고 하며, 어느 정도의 이상치들이 마진 안에 포함되는 것을 허용한다면 소프트 마진(soft margin)이라고 합니다. 그림 3-7이 이상치를 허용하지 않는 하드 마진이라면, 그림 3-8은 이상치를 허용하는 소프트 마진입니다.
▲ 그림 3-8 서포트 벡터 머신의 마진