Tipos e topologias de TPU

Visão geral

Para saber mais sobre os diferentes tipos de TPUs e os recursos de software e hardware, consulte o documento Arquitetura do sistema.

Ao criar um Cloud TPU usando gcloud, é preciso especificar um tipo de TPU e uma topologia. É possível fazer isso usando a sinalização ACCELERATOR_TYPE.

O tipo de TPU define a versão da TPU (v2, v3, v4). A topologia da TPU define o número de núcleos ou chips alocados para as TPUs e, portanto, a quantidade de memória da TPU que está disponível para a carga de trabalho de machine learning.

A configuração da TPU é definida pela combinação do tipo de TPU e da topologia.

Tipos de TPU

O tipo de TPU é especificado na sinalização ACCELERATOR_TYPE como v2, v3 ou v4, seguido pelo número de núcleos (por exemplo, 8, 32, 128). Por exemplo, v2-8 especifica uma configuração de TPU v2 com oito núcleos de TPU. v3-2048 especifica uma configuração de pod da TPU v3 com 2.048 núcleos.

Topologias de TPU

Uma topologia de TPU é o número e a organização dos recursos de computação (núcleos ou chips) na configuração. Por exemplo, v3-8 especifica a versão v3 e uma topologia com oito núcleos. Isso também pode ser especificado como uma topologia 2x2, porque há 2*2 chips e cada chip tem 2 núcleos, ou um total de 8 núcleos. Um pod v2-32 também pode ser representado como uma topologia 4x4 v2 (4*4 chips, cada um com 2 núcleos, totalizando 32 núcleos). Na v4, há uma dimensão adicional para que a mesma configuração de 32 núcleos possa ser representada em chips de 2x2x4 (16 chips, cada um com dois núcleos).

É possível alterar o tipo de TPU para outro tipo que tenha o mesmo número de núcleos ou chips (por exemplo, v2-128 e v3-128) para executar seu script de treinamento sem alterações de código. No entanto, se você mudar para um tipo de TPU com um número maior ou menor de chips ou núcleos, será necessário realizar ajustes e otimizações significativos. Para mais informações, consulte Treinamento em pods de TPU.

Para ver o preço de cada tipo de TPU em cada região, consulte a página Preços.

A seguir