편향-분산 상충 관계
머신러닝 모델을 학습할 때 적절한 수준의 일반화 성능을 결정하는 것은 매우 까다롭습니다. 편향과 분산은 상충 관계를 이루기 때문입니다.
주의 ≡
더 단순한 가정 = 더 높은 일반화 수준 = 낮은 분산 = 높은 편향
이러한 편향-분산 상충 관계는 선택한 알고리즘, 데이터의 특징과 다양한 하이퍼 파라미터에 의해 결정됩니다. 여러분이 풀려는 문제의 요구조건에 기반을 두고 편향과 분산 사이의 적절한 타협점을 찾는 것이 중요합니다.