텐서플로의 분산 전략 API는 분산 컴퓨팅의 많은 세부 사항을 추상화하여 모델 학습을 더 쉽게 확장할 수 있게 해줍니다. 여러 GPU에서 동기식 트레이닝을 위한 tf.distribute.MirroredStrategy, TPU에서 트레이닝을 위한 tf.distribute.experimental.TPUStrategy 등 데이터 및 계산을 분산하기 위한 다양한 전략을 지원합니다.

3. 대규모 모델 배포

모델이 학습되면 텐서플로는 대규모로 모델을 배포할 수 있는 도구도 제공합니다. 텐서플로 서빙(TensorFlow Serving)은 프로덕션 환경을 위해 설계된 머신 러닝 모델을 위한 유연한 고성능 서빙 시스템입니다. 텐서플로 모델과 바로 통합할 수 있지만 다른 유형의 모델을 제공하도록 확장할 수 있습니다.

특히 여러 모델을 서비스하고, 모델 버전 관리를 수행하고, 다양한 유형의 하드웨어에서 모델을 서비스할 수 있습니다. 매우 유연하고 확장 가능하며 대규모로 모델을 제공할 수 있도록 설계되어 프로덕션급 제품으로 전환이 가능합니다.