더북(TheBook)

▲ 그림 2-6 대조 학습

이 예는 대조 손실의 주요 아이디어를 요약한 것으로 많은 변종이 있습니다. 크게 샘플 대조(sample contrastive) 방식과 차원 대조(dimension contrastive) 방식으로 분류할 수 있습니다. 그림 2-5에 있는 코끼리-고양이 예는 샘플 대조 방식의 예입니다. 여기서는 훈련 샘플 쌍 사이의 거리를 최소화하고 최대화하는 임베딩을 학습합니다. 반면 차원 대조 방식은 훈련 샘플의 임베딩 표현에서 특정 변수만 가깝게 나타나고 다른 변수의 거리는 최대화합니다.

신간 소식 구독하기
뉴스레터에 가입하시고 이메일로 신간 소식을 받아 보세요.