병렬 처리

병렬 처리(parallelization)는 사용자의 질문에 대해 여러 LLM을 동시에 호출해 다양한 응답을 얻고, 애그리게이터(aggregator, 통합기)가 이를 종합해 최적의 응답을 출력하는 방식입니다.

4장에서는 최적의 번역문을 출력하는 에이전트를 구현합니다. 번역할 문장을 입력하면 GPT-4o, GPT-4o mini, o3를 동시에 호출해 각각의 번역 결과를 얻고, 세 가지 결과를 비교해 가장 적절한 번역문을 출력합니다.

그림 1-4 병렬 처리