3 GPU 살펴보기

심층 신경망 모델을 구성해서 딥러닝을 구현하려면 수많은 계산 과정이 필요합니다. 이러한 계산은 컴퓨터의 중앙처리장치(CPU)가 담당합니다. 잠시 CPU가 작동하는 원리를 살펴볼까요?

CPU는 데이터를 읽어와서, 그 값을 계산한 후 답을 넘겨주는 과정을 수행합니다. 그래서 성능이 좋은 CPU는 한 번에 데이터를 읽어들일 수 있는 능력이 뛰어납니다. 그리고 그 데이터를 계산할 수 있는 능력 또한 뛰어납니다.

CPU는 일의 순서를 잘 계산한 후 순서에 맞춰 계산을 수행합니다. 대부분 프로그램이 복잡한 순서를 가진 알고리즘으로 구현되었기 때문에 CPU는 이러한 프로그램을 잘 순서화해서 일을 처리할 수 있습니다.

그림 15-5 | CPU 내부