할당량 정책

할당량 설정

할당량은 Cloud TPU 코어 기준으로 정의됩니다. 단일 Cloud TPU 기기는 4개의 TPU 칩과 8개의 코어(TPU 칩당 2개의 코어)로 구성됩니다. Cloud TPU v2 Pod는 TPU 칩이 256개(코어 512개) 포함된 64개의 TPU 기기로 구성됩니다. Cloud TPU v3 Pod는 TPU 칩이 1,024개(코어 2,048개) 포함된 256개의 TPU 기기로 구성됩니다. 코어 수에 따라 Cloud TPU별 할당량이 지정됩니다. 예를 들어 할당량이 8개면 코어 8개를, 할당량이 16개면 코어를 최대 16개 사용할 수 있습니다.

버전-코어 수 표기(예: v2-8)는 Cloud TPU 버전과 코어 수를 나타냅니다. 코어 수는 할당량을 지정하는 데에도 사용되기 때문에 이 표기법으로 Cloud TPU 할당량 설정도 확인할 수 있습니다. 예를 들어 v2-32는 코어가 32개 있는 TPU v2 유형을 의미합니다.

새로운 Google Cloud 프로젝트를 만들면 Cloud TPU는 프로젝트에 기본 할당량을 할당합니다.

단일 기기 TPU 유형의 할당량

단일 기기 TPU 유형에서는 주문형 코어 개수 및 선점형 TPU 코어 개수에 할당량 개수가 있습니다.

  • 주문형 TPU: 기본 할당량은 코어 16개(TPU 기기 2개)입니다.
  • 선점형 TPU: 기본 할당량은 코어 48개(TPU 기기 6개) 이상입니다.

TPU Pod 유형의 할당량

Cloud TPU Pod의 기본 할당량은 0입니다. TPU Pod 유형을 사용하려면 평가 할당량 또는 추가 할당량을 요청해야 합니다.

평가 할당량

TPU Pod 유형의 성능을 테스트할 수 있도록 평가 할당량에 대한 액세스를 요청합니다. 평가 할당량을 사용해 만드는 TPU 노드는 1초 단위로 요금이 청구되지만 주문형 TPU 기기 또는 약정 할당량을 사용해 만든 기기와 동일한 수준의 서비스가 보장되지는 않습니다. 평가 할당량은 제한된 기간 동안에만 프로젝트에서 유지됩니다.

추가 할당량 요청

Google Cloud 프로젝트에 할당된 할당량은 Google Cloud Console에 표시됩니다. Cloud TPU 할당량이 추가로 필요한 경우 다음 절차를 통해 Google Cloud Console의 할당량 페이지에서 요청하면 됩니다.

  1. 할당량 페이지로 이동합니다.

    할당량 페이지로 이동

  2. 필터 상자에서 Cloud TPU를 입력합니다.
  3. 테이블에서 리전별 프로젝트당 TPU tpu-version API Pod 코어를 선택합니다. tpu-version을 사용 중인 TPU 버전으로 바꿉니다.

    또는 영역별 프로젝트당 TPU tpu-version API Pod 코어를 선택할 수 있습니다.

  4. Cloud TPU Pod를 사용할 리전이나 영역을 하나 이상 선택합니다.

    각 영역에서 사용할 수 있는 전체 TPU 유형 목록은 TPU 유형 및 영역을 참조하세요.

  5. 할당량 수정을 클릭합니다.
  6. 이름, 이메일, 전화번호를 입력하고 다음을 클릭합니다.
  7. 할당량 증가 요청을 입력하고 다음을 클릭합니다.
  8. 요청을 제출합니다.

요청 후 영업일 기준 1~2일 내에 Cloud TPU팀이 답변을 드립니다.