더북(TheBook)

손실 함수 구성

SAM에서는 Focal Loss와 Dice Loss를 선형 결합하여 손실 함수를 구성합니다. 이 조합은 이미지 분할 과정에서 특정 문제점을 해결하고자 하는 목적이 있습니다.

Focal Loss는 분류 문제에서 특히 ‘어려운’ 샘플에 대해 더 많은 가중치를 부여하는 방법입니다. 이는 쉽게 분류할 수 있는 객체에 비해 어려운 객체에 더 많은 학습 자원을 할당하는 방식으로, 모델의 학습 효율성을 높입니다. Focal Loss는 표준 Cross-Entropy Loss의 확장된 형태입니다. 이 손실 함수는 샘플이 잘못 분류될 확률이 높을 때 더 큰 손실을 부여합니다. 다시 말해 모델이 어려움을 겪는 샘플에 더 많은 주의를 기울이도록 합니다. 이 방법은 특히 클래스 불균형이 큰 문제에서 유용합니다. 예를 들어 일부 클래스가 다른 클래스보다 훨씬 더 많이 나타나는 경우, Focal Loss는 덜 빈번한 클래스의 샘플에 더 많은 학습 가중치를 부여합니다. 수식으로 나타내면 다음과 같습니다.

여기서 pt는 모델이 예측한 확률, αt는 클래스 가중치, γ는 조정 가능한 포커싱 매개변수입니다. 포커싱 매개변수 값이 클수록 예시들에 더 큰 가중치를 부여하여 모델이 어려운 예시에 더 집중하도록 합니다.

신간 소식 구독하기
뉴스레터에 가입하시고 이메일로 신간 소식을 받아 보세요.