‘3.5 커널 SVM을 사용하여 비선형 문제 풀기’ 절을 떠올리면 커널 트릭을 사용하여 샘플 x끼리의 함수 점곱을 커널 함수 K로 바꿈으로써 고유 벡터를 명시적으로 계산할 필요가 없었습니다.
다른 말로 하면 커널 PCA로 얻은 것은 표준 PCA 방식에서처럼 투영 행렬을 구성한 것이 아니고 각각의 성분에 이미 투영된 샘플입니다. 기본적으로 커널 함수(또는 간단히 커널(kernel))는 두 벡터 사이의 점곱을 계산할 수 있는 함수입니다. 즉, 유사도를 측정할 수 있는 함수입니다.
가장 널리 사용되는 커널은 다음과 같습니다.
• 다항 커널
여기서 θ는 임계 값이고 P는 사용자가 지정한 거듭제곱입니다.
• 하이퍼볼릭 탄젠트(hyperbolic tangent) (시그모이드(sigmoid)) 커널
• 방사 기저 함수(Radial Basis Function, RBF) 또는 가우시안 커널. 다음 절의 예제에서 사용하겠습니다.
변수 을 도입하여 종종 다음과 같이 씁니다.