이러한 문제를 해결하고자 도입한 것이 바로 ‘커널 트릭(kernel trick)’입니다. 선형 모델을 위한 커널(kernel)에는 선형(linear) 커널이 있고, 비선형을 위한 커널에는 가우시안 RBF 커널과 다항식 커널(poly)이 있습니다. 가우시안 RBF 커널과 다항식 커널은 수학적 기교를 이용하는 것으로, 벡터 내적을 계산한 후 고차원으로 보내는 방법으로 연산량을 줄였습니다(벡터 내적은 별도의 인공지능 수학 관련 도서를 참고하기 바랍니다).
• 선형 커널(linear kernel): 선형으로 분류 가능한 데이터에 적용하며, 다음 수식을 사용합니다.
또한, 선형 커널은 기본 커널 트릭으로 커널 트릭을 사용하지 않겠다는 의미와 일맥상통합니다.
• 다항식 커널(polynomial kernel): 실제로는 특성을 추가하지 않지만, 다항식 특성을 많이 추가한 것과 같은 결과를 얻을 수 있는 방법입니다. 즉, 실제로는 특성을 추가하지 않지만, 엄청난 수의 특성 조합이 생기는 것과 같은 효과를 얻기 때문에 고차원으로 데이터 매핑이 가능합니다.
