Regiões e zonas da TPU
Visão geral
As principais diferenças entre os tipos de TPU são preço, desempenho, capacidade de memória e disponibilidade zonal.
O Google Cloud usa regiões subdivididas em zonas para definir a localização geográfica dos recursos físicos de computação. Por exemplo, a
região us-central1
indica uma região próxima ao centro geográfico dos
Estados Unidos. Ao criar um nó da TPU, especifique a zona em que ele será criado. Consulte o documento Recursos globais, regionais e por zonas do Compute Engine para mais informações sobre recursos regionais e zonais.
É possível criar configurações de TPU nas zonas mostradas na tabela a seguir.
EUA
Tipo de TPU (v2) | Núcleos de TPU v2 | Zonas disponíveis |
---|---|---|
v2-8 | 8 |
us-central1-b us-central1-c us-central1-f
|
v2-32 | 32 |
us-central1-a
|
v2-128 | 128 |
us-central1-a
|
v2-256 | 256 |
us-central1-a
|
v2-512 | 512 |
us-central1-a
|
Tipo de TPU (v3) | Núcleos de TPU v3 | Zonas disponíveis |
v3-8 | 8 |
us-central1-a us-central1-b us-central1-f
|
Tipo de TPU (v4) | Chips de TPU v4 | Zonas disponíveis |
Todas as configurações da v4 | varia de acordo com o tamanho da fatia |
us-central2-b |
Tipo de TPU (v5e) | Chips de TPU v5e | Zonas disponíveis |
Todas as configurações do v5litepod | varia de acordo com o tamanho da fatia |
us-central1-a us-east5-a us-east5-b us-east5-c us-south1-a us-west1-c us-west4-a us-west4-b |
Tipo de TPU (v5p) | Chips de TPU v5p | Zonas disponíveis |
Todas as configurações da v5p | varia de acordo com o tamanho da fatia |
us-east5-a us-east5-c us-east1-d |
Europa
Tipo de TPU (v2) | Núcleos de TPU v2 | Zonas disponíveis |
---|---|---|
v2-8 | 8 |
europe-west4-a
|
v2-32 | 32 |
europe-west4-a
|
v2-128 | 128 |
europe-west4-a
|
v2-256 | 256 |
europe-west4-a
|
v2-512 | 512 |
europe-west4-a
|
Tipo de TPU (v3) | Núcleos de TPU v3 | Zonas disponíveis |
v3-8 | 8 |
europe-west4-a
|
v3-32 | 32 |
europe-west4-a
|
v3-64 | 64 |
europe-west4-a
|
v3-128 | 128 |
europe-west4-a
|
v3-256 | 256 |
europe-west4-a
|
v3-512 | 512 |
europe-west4-a
|
v3-1024 | 1024 |
europe-west4-a
|
v3-2048 | 2048 |
europe-west4-a
|
Tipo de TPU (v5e) | Chips de TPU v5e | Zonas disponíveis |
v5lite-1 | 1 |
europe-west4-b |
V5lite-4 | 4 |
europe-west4-b |
V5lite-8 | 8 |
europe-west4-b |
Todas as configurações do v5litepod | varia de acordo com o tamanho da fatia |
europe-west1-b europe-west4-a europe-west4-b |
Ásia-Pacífico
Tipo de TPU (v2) | Núcleos de TPU v2 | Zonas disponíveis |
---|---|---|
v2-8 | 8 |
asia-east1-c
|
Tipo de TPU (v5e) | Chips de TPU v5e | Zonas disponíveis |
Todas as configurações do v5litepod | varia de acordo com o tamanho da fatia |
asia-southeast1-b
|
Os tipos de TPU com maior número de chips ou núcleos estão disponíveis apenas em quantidades limitadas. Os tipos de TPU com menor contagem de chips ou núcleos têm maior probabilidade de estarem disponíveis.
Como calcular o preço e as vantagens e desvantagens de desempenho
Para decidir qual tipo de TPU você quer usar, faça experimentos usando um tutorial do Cloud TPU para treinar um modelo semelhante ao seu aplicativo.
Execute o tutorial de 5% a 10% do número de etapas que você usará para executar o treinamento completo em um tipo de TPU v2-8
ou v3-8
. O resultado informa quanto tempo leva para executar esse número de etapas para esse modelo em cada tipo de TPU.
Como o desempenho em tipos de TPU é escalonado linearmente, se você souber quanto tempo leva para executar uma tarefa em um tipo de TPU v2-8
ou v3-8
, poderá estimar o quanto é possível reduzir o tempo de tarefa executando o modelo em um tipo de TPU maior com mais chips ou núcleos.
Por exemplo, se um tipo de TPU v2-8
levar de 60 a 10.000 etapas, um nó v2-32
levará aproximadamente 15 minutos para executar a mesma tarefa.
Quando você sabe o tempo aproximado de treinamento do modelo em alguns tipos diferentes de TPU, é possível pesar o custo da VM/TPU em relação ao tempo de treinamento para ajudar a decidir a melhor relação de preço e desempenho.
Para determinar a diferença de custo entre os diferentes tipos de TPU do Cloud TPU e a VM do Compute Engine associada, consulte a página de preços da TPU.
Como especificar o tipo de TPU
Seja qual for o framework usado, especifique um tipo de TPU v2
ou v3
com o parâmetro accelerator-type
ao iniciar uma TPU. Para uma TPU v4 ou posterior, especifique o tipo e o tamanho usando AcceleratorType
ou AcceleratorConfig
. Para mais informações, consulte Versões de TPU. O comando de tipo de TPU depende do uso de VMs ou nós de TPU. Veja exemplos de comandos em Como gerenciar TPUs.
A seguir
- Para ver os preços das TPUs em cada região, consulte a página Preços.
- Saiba mais sobre a arquitetura de TPU na página Arquitetura do sistema.
- Consulte Quando usar TPUs para conhecer os tipos de modelos adequados para o Cloud TPU.