Regiões e zonas de TPU

Visão geral

As principais diferenças entre os tipos de TPU são preço, desempenho, capacidade de memória e disponibilidade zonal.

O Google Cloud usa regiões subdivididas em zonas para definir a localização geográfica dos recursos de computação física. Por exemplo, o A região us-central1 indica uma região próxima ao centro geográfico de nos Estados Unidos. Ao criar uma VM TPU, especifique a zona em que você quer criá-la. Consulte o documento Recursos globais, regionais e zonais do Compute Engine para mais informações sobre recursos regionais e zonais.

É possível criar configurações de TPU nas zonas mostradas na tabela a seguir.

EUA

Tipo de TPU (v2) Núcleos de TPU v2 Zonas disponíveis
v2-8 8 us-central1-b
us-central1-c
us-central1-f
v2-32 32 us-central1-a
v2-128 128 us-central1-a
v2-256 256 us-central1-a
v2-512 512 us-central1-a
Tipo de TPU (v3) Núcleos de TPU v3 Zonas disponíveis
v3-8 8 us-central1-a
us-central1-b
us-central1-f
Tipo de TPU (v4) Chips TPU v4 Zonas disponíveis
Todas as configurações da v4 varia de acordo com o tamanho da fatia us-central2-b
Tipo de TPU (v5e) Chips TPU v5e Zonas disponíveis
Todas as configurações do v5litepod varia de acordo com o tamanho da fatia us-central1-a
us-east5-a
us-east5-b
us-east5-c
us-south1-a
us-west1-c
us-west4-a
us-west4-b
Tipo de TPU (v5p) Chips TPU v5p Zonas disponíveis
Todas as configurações do v5p varia de acordo com o tamanho da fatia us-east5-a

Europa

Tipo de TPU (v2) Núcleos de TPU v2 Zonas disponíveis
v2-8 8 europe-west4-a
v2-32 32 europe-west4-a
v2-128 128 europe-west4-a
v2-256 256 europe-west4-a
v2-512 512 europe-west4-a
Tipo de TPU (v3) Núcleos de TPU v3 Zonas disponíveis
v3-8 8 europe-west4-a
v3-32 32 europe-west4-a
v3-64 64 europe-west4-a
v3-128 128 europe-west4-a
v3-256 256 europe-west4-a
v3-512 512 europe-west4-a
v3-1024 1024 europe-west4-a
v3-2048 2048 europe-west4-a
Tipo de TPU (v5e) Chips TPU v5e Zonas disponíveis
v5lite-1 1 europe-west4-b
v5lite-4 4 europe-west4-b
v5lite-8 8 europe-west4-b
Todas as configurações do v5litepod varia de acordo com o tamanho da fatia europe-west1-b
europe-west4-a
europe-west4-b
Tipo de TPU (v5p) Chips TPU v5p Zonas disponíveis
Todas as configurações do v5p varia de acordo com o tamanho da fatia europe-west4-b

Ásia-Pacífico

Tipo de TPU (v2) Núcleos de TPU v2 Zonas disponíveis
v2-8 8 asia-east1-c
Tipo de TPU (v5e) Chips TPU v5e Zonas disponíveis
Todas as configurações do v5litepod varia de acordo com o tamanho da fatia asia-southeast1-b

Os tipos de TPU com maiores números de chips ou núcleos estão disponíveis apenas de forma limitada quantidades grandes. Os tipos de TPU com menor contagem de núcleos ou chips têm maior probabilidade de estar disponíveis.

Como calcular o preço e as vantagens e desvantagens de desempenho

Para decidir qual tipo de TPU você quer usar, faça experimentos usando um Tutorial do Cloud TPU para treinar um modelo que seja semelhantes ao seu aplicativo.

Execute o tutorial para 5 a 10% do número de etapas que você usará para executar treinamento em um tipo de TPU v2-8 ou v3-8. O resultado informa quanto tempo leva para executar esse número de etapas para esse modelo em cada Tipo de TPU.

Como o desempenho em tipos de TPU é escalonado linearmente, se você sabe quanto tempo leva para executar uma tarefa em um tipo de TPU v2-8 ou v3-8, pode estimar o quanto pode reduzir o tempo de tarefas executando o modelo em um tipo de TPU maior com mais chips ou núcleos.

Por exemplo, se um tipo de TPU v2-8 levar de 60 minutos a 10.000 etapas, um nó v2-32 levará aproximadamente 15 minutos para executar a mesma tarefa.

Quando você sabe o tempo aproximado de treinamento do modelo em alguns tipos diferentes de TPU, pode ponderar o custo da VM/TPU em relação ao tempo de treinamento para ajudar você a decidir a melhor relação preço/desempenho.

Para determinar a diferença de custo entre os diferentes tipos de TPU do Cloud TPU e a VM do Compute Engine associada, consulte a página de preços da TPU.

Como especificar o tipo de TPU

Seja qual for o framework usado, especifique um v2. ou o tipo de TPU v3 com a o parâmetro accelerator-type quando você iniciar uma TPU. Para uma TPU v4 ou posterior, é possível especificar o tipo e o tamanho usando AcceleratorType ou AcceleratorConfig. Para mais informações, consulte TPU padrão. Os comandos de exemplo são mostrado em Como gerenciar TPUs.

A seguir

  • Para conferir os preços de TPUs em cada região, consulte a página Preços.
  • Saiba mais sobre a arquitetura de TPU na página Sistemas Arquitetura.
  • Consulte Quando usar TPUs para saber mais sobre os tipos de modelos adequados para o Cloud TPU.