1. 알고리즘을 k = d로 초기화합니다. d는 전체 특성 공간 Xd의 차원입니다.
2. 조건 를 최대화하는 특성 를 결정합니다. 여기에서 x ∈ Xk입니다.
3. 특성 집합에서 특성 를 제거합니다. 즉, 입니다.
4. k가 목표하는 특성 개수가 되면 종료합니다. 아니면 단계 2로 돌아갑니다.
Note ≡ 순차 특성 알고리즘 자료
<Comparative Study of Techniques for Large-Scale Feature Selection>(F. Ferri, P. Pudil, M. Hatef, J. Kittler, 1994)의 403~413쪽에서 여러 가지 순차 특성 선택 알고리즘에 대한 자세한 평가를 볼 수 있습니다.
알고리즘 구현 능력과 코딩 기술을 익히기 위해 이 알고리즘을 파이썬으로 직접 구현해 보죠.
from sklearn.base import clone
from itertools import combinations
import numpy as np
from sklearn.metrics import accuracy_score
from sklearn.model_selection import train_test_split