Note ≡ 고윳값 분해: 행렬을 고유 벡터와 고윳값으로 분해하기

정사각 행렬(square matrix)을 고윳값과 고유 벡터로 분해하는 고윳값 분해(eigendecomposition)는 이 절에서 설명하는 PCA 과정의 핵심입니다.

공분산 행렬은 대칭 행렬로 정사각 행렬의 특수한 경우입니다. 즉, 이 행렬은 전치와 동일합니다(A = A^T).

이런 대칭 행렬을 분해하면 고윳값이 (복소수가 아닌) 실수고, 고유 벡터는 서로 직교(수직)합니다. 또한, 고윳값과 고유 벡터는 쌍을 이룹니다. 공분산 행렬을 고유 벡터와 고윳값으로 분해하면, 가장 높은 고윳값에 연관된 고유 벡터가 데이터셋에서 가장 분산이 큰 방향에 해당합니다. 여기에서 “방향”은 데이터셋의 특성 열을 선형 변환한 것입니다.

고윳값과 고유 벡터에 대한 자세한 설명은 이 책의 범위를 벗어나지만, 비교적 자세한 설명과 추가 자료에 대한 안내를 위키백과에서 찾을 수 있습니다(https://ko.wikipedia.org/wiki/고윳값과_고유_벡터).