GPU는 특히 주간 사용 시간 제한량(Quota)이 있습니다. 계정당 1주일간 사용할 수 있는 시간이 있고, 제한량을 모두 사용하면 1주일 뒤 리셋될 때까지 사용할 수 없습니다. 제한량을 절약하기 위해 보통 CPU 환경에서 코드를 작성한 후 에러가 발생하는지 여부만 판단한 뒤에 GPU를 할당 받고 실행합니다. GPU 세션을 유지하는 동안은 제한량이 계속 소모되므로, 사용하지 않을 때는 세션을 종료하는 것이 좋습니다.

(3) TPU (Tensor Process Unit)

TPU는 구글 클라우드 플랫폼(GCP)에서 서비스하는 Cloud TPU를 말하며, 최근 캐글 노트북에 추가되었습니다. 아마 직접 사용해본 사람이 그렇게 많지 않을, 생소한 장치일 것입니다. TPU를 제대로 사용하기 위해서는 TPU 장치에 대한 이해와 구동을 위한 사전 준비 및 특별한 코드가 필요합니다. 따라서 이 장에서는 이런 게 있다고 간단히 소개만 하고, 6장 Toxic의 TPU 솔루션에서 더 자세하게 설명하겠습니다.