더북(TheBook)

Note ≡ L1 규제와 희소성


L1 규제가 희소한 모델을 만드는 이유에 대한 수학적 상세는 책 범위를 넘어섭니다. 관심이 있다면 Trevor Hastie, Robert Tibshirani, Jerome Friedman이 쓴 <The Elements of Statistical Learning>(Springer Science+Business Media, 2009)의 3.4절에서 L2와 L1 규제에 대한 자세한 설명을 참고하세요.

사이킷런에서 L1 규제를 지원하는 모델은 penalty 매개변수를 'l1'으로 지정하여 희소한 모델을 만들 수 있습니다.

>>> from sklearn.linear_model import LogisticRegression
>>> LogisticRegression(penalty='l1')

'lbfgs'는 L1 규제를 지원하지 않기 때문에 다른 알고리즘을 선택해야 합니다(예를 들어 'liblinear').16 표준화 전처리된 Wine 데이터에 L1 규제가 있는 로지스틱 회귀를 적용하면 다음과 같은 희소한 모델을 만듭니다.

신간 소식 구독하기
뉴스레터에 가입하시고 이메일로 신간 소식을 받아 보세요.