그다음 가장 많이 예측된 클래스 레이블을 최종 예측으로 반환합니다(동률인 클래스 레이블이 있을 경우 신뢰 점수(confidence score)⁶로 해결하거나, 랜덤하게 클래스 레이블을 고르거나, 가장 작은 인덱스의 클래스 레이블을 선택합니다).

앙상블 방법은 하나의 모델이 아니라 여러 개의 모델을 사용하기 때문에 계산 비용이 많이 듭니다. 따라서 딥러닝보다 전통적인 머신 러닝에서 많이 사용합니다. 다른 말로 하면 심층 신경망은 계산 비용이 매우 많이 들기 때문에 앙상블 방법이 잘 맞지 않습니다.

랜덤 포레스트와 그레이디언트 부스팅은 인기 있는 앙상블 방법입니다. 하지만 다수결 투표나 스태킹(stacking)을 사용해 어떤 모델로도 앙상블을 만들 수 있습니다. 예를 들어 서포트 벡터 머신(support vector machine), 다층 퍼셉트론, 최근접 이웃 분류기의 앙상블을 구성할 수 있습니다. 여기서 스태킹(또는 스택 일반화(stacked generalization))은 고급 다수결 투표 방법으로서, 다수결 투표로 클래스 레이블을 모으는 것이 아니라 다른 모델의 예측을 사용해 새로운 모델을 훈련합니다.