하지만 역전파(backpropagation)처럼 복잡한 미적분은 병렬 연산을 해야 속도가 빨라집니다. A·B·C열을 얼마나 동시에 처리하느냐에 따라 계산 시간이 달라지기 때문입니다. 이처럼 병렬 처리는 복잡한 연산이 수반되는 딥러닝에서 속도와 성능을 높여 주는 주요 요인이 될 수 있습니다. 딥러닝은 데이터를 수백에서 수천만 건까지 다루는데, 여기에서 다룬다는 것은 데이터를 벡터로 변환한 후 연산을 수행한다는 의미입니다. 연산을 수행할 때 CPU에서 한 번에 하나의 명령어만 처리한다면 하나의 모델을 훈련시키는 데 며칠 혹은 몇 달이 걸릴 수 있습니다. 하지만 GPU에서 병렬로 처리할 경우 모델 훈련 시간을 많이 단축시킬 수 있기 때문에 딥러닝에서 GPU 사용은 선택이 아닌 필수라고 할 수 있습니다.

파이토치에서는 GPU를 어떻게 사용할 수 있을까요? 이제부터 GPU를 사용하기 위해 설치를 진행해 보겠습니다. 책의 전체 예제는 CPU와 GPU 모두에서 실행할 수 있습니다. 다만 책 뒷부분으로 갈수록 CPU를 사용하면 예제 실행에 좀 더 많은 시간이 걸릴 수 있습니다. GPU를 사용하지 않을 예정이라면 8.2.2절은 건너뛰어도 무방합니다.