TPU 유형 및 토폴로지

개요

다양한 유형의 TPU와 소프트웨어 및 하드웨어 기능에 대해 알아보려면 시스템 아키텍처 문서를 참조하세요.

gcloud를 사용하여 Cloud TPU를 만들 때는 TPU 유형과 토폴로지를 지정해야 합니다. ACCELERATOR_TYPE 플래그를 사용하면 됩니다.

TPU 유형은 TPU 버전(v2, v3, v4)을 정의합니다. TPU 토폴로지는 TPU에 할당된 코어 또는 칩의 수를 정의하므로 머신러닝 워크로드에 사용할 수 있는 TPU 메모리의 양이 다릅니다.

TPU 구성은 TPU 유형과 토폴로지의 조합으로 정의됩니다.

TPU 유형

TPU 유형은 ACCELERATOR_TYPE 플래그에 v2, v3, v4로 지정되고 그 뒤에 코어 수(예: 8, 32, 128)가 지정됩니다. 예를 들어 v2-8은 TPU 코어가 8개 있는 v2 TPU 구성을 지정합니다. v3-2048은 코어가 2,048개인 v3 TPU Pod 구성을 지정합니다.

TPU 토폴로지

TPU 토폴로지는 구성에서 컴퓨팅 리소스(코어 또는 칩)의 수와 배열입니다. 예를 들어 v3-8v3 버전과 코어 8개가 있는 토폴로지를 지정합니다. 또한 칩이 2*2개이고 각 칩에 코어가 2개 또는 총 8개이므로 2x2 토폴로지로 지정할 수도 있습니다. v2-32 포드는 v2 4x4 토폴로지(칩이 4*4개이고, 각 칩에 2개의 코어가 있어 총 32개의 코어)를 나타낼 수도 있습니다. v4의 경우 추가 차원이 있으므로 동일한 32 코어 구성을 2x2x4 칩(각각 2개의 코어가 있는 16개)으로 표현할 수 있습니다.

TPU 유형을 코어 또는 칩 수가 동일한 다른 TPU 유형(예: v2-128v3-128)으로 변경하면 코드 변경 없이 학습 스크립트를 실행할 수 있습니다. 하지만 칩 또는 코어 수가 더 많거나 적은 TPU 유형으로 변경하는 경우 상당한 조정과 최적화 수행이 필요합니다. 자세한 내용은 TPU Pod에서 학습을 참조하세요.

리전별로 각 TPU 유형의 가격 책정을 보려면 가격 페이지를 참조하세요.

다음 단계