Régions et zones TPU

Présentation

Les principales différences entre les types de TPU sont le prix, les performances, la capacité de mémoire et la disponibilité zonale.

Google Cloud définit l'emplacement géographique des ressources de calcul physiques à l'aide de régions subdivisées en zones. Par exemple, la région us-central1 est une région proche du centre géographique des États-Unis. Lorsque vous créez un nœud TPU, vous spécifiez la zone dans laquelle vous souhaitez le créer. Pour en savoir plus sur les ressources régionales et zonales, consultez le document Ressources globales, régionales et zonales de Compute Engine.

Vous pouvez créer des configurations TPU dans les zones indiquées dans le tableau suivant.

US

Type de TPU (v2) Cœurs de TPU v2 Zones disponibles
v2-8 8 us-central1-b
us-central1-c
us-central1-f
v2-32 32 us-central1-a
v2-128 128 us-central1-a
v2-256 256 us-central1-a
v2-512 512 us-central1-a
Type de TPU (v3) Cœurs de TPU v3 Zones disponibles
v3-8 8 us-central1-a
us-central1-b
us-central1-f
Type de TPU (v4) Puces TPU v4 Zones disponibles
Toutes les configurations v4 varie selon la taille des tranches us-central2-b
Type de TPU (v5e) Puces TPU v5e Zones disponibles
v5litepod-1 1 us-west4-a
us-east5-b
V5Litepod-4 4 us-west4-a
us-east5-b
V5Litepod-8 8 us-west4-a
us-east5-b
V5Litepod-16 16 us-west4-a
us-east5-b
v5litepod-32 32 us-west4-a
us-east5-b
V5Litepod-64 64 us-west4-a
us-east5-b
V5Litepod-128 128 us-west4-a
us-east5-b
v5litepod-256 256 us-west4-a
us-east5-b

Europe

Type de TPU (v2) Cœurs de TPU v2 Zones disponibles
v2-8 8 europe-west4-a
v2-32 32 europe-west4-a
v2-128 128 europe-west4-a
v2-256 256 europe-west4-a
v2-512 512 europe-west4-a
Type de TPU (v3) Cœurs de TPU v3 Zones disponibles
v3-8 8 europe-west4-a
v3-32 32 europe-west4-a
v3-64 64 europe-west4-a
v3-128 128 europe-west4-a
v3-256 256 europe-west4-a
v3-512 512 europe-west4-a
v3-1024 1 024 europe-west4-a
v3-2048 2 048 europe-west4-a
Type de TPU (v5e) Puces TPU v5e Zones disponibles
v5lite-1 1 europe-west4-b
v5lite-4 4 europe-west4-b
v5lite-8 8 europe-west4-b

Asie-Pacifique

Type de TPU (v2) Cœurs de TPU v2 Zones disponibles
v2-8 8 asia-east1-c

Les types de TPU comportant un plus grand nombre de puces ou de cœurs ne sont disponibles que dans des quantités limitées. Les types de TPU ayant un nombre de puces ou de cœurs inférieur sont plus susceptibles d'être disponibles.

Identifier le meilleur compromis prix/performances

Pour choisir le type de TPU à utiliser, vous pouvez effectuer des tests à l'aide d'un tutoriel Cloud TPU afin d'entraîner un modèle semblable à votre application.

Exécutez le tutoriel pour 5 à 10% du nombre de pas que vous utiliserez pour exécuter l'entraînement complet sur un type de TPU v2-8 ou v3-8. Le résultat vous indique le temps nécessaire pour exécuter ce nombre de pas pour ce modèle sur chaque type de TPU.

Étant donné que les performances sur les types de TPU évoluent de manière linéaire, si vous connaissez le temps nécessaire à l'exécution d'une tâche sur un type de TPU v2-8 ou v3-8, vous pouvez estimer le potentiel de réduction de la durée de la tâche en exécutant votre modèle sur un type de TPU plus grand avec plus de puces ou de cœurs.

Par exemple, si un type de TPU v2-8 effectue 60 minutes pour 10 000 pas, un nœud v2-32 devrait effectuer la même tâche en 15 minutes environ.

Lorsque vous connaissez la durée d'entraînement approximative de votre modèle sur différents types de TPU, vous pouvez évaluer le coût de la VM/TPU par rapport à la durée d'entraînement afin de déterminer le meilleur compromis en termes de prix et de performances.

Pour déterminer la différence de coût entre les différents types de TPU pour Cloud TPU et la VM Compute Engine associée, consultez la page des tarifs de Cloud TPU.

Spécifier le type de TPU

Quel que soit le framework que vous utilisez, vous spécifiez un v2 ou un v3.

Type de TPU avec le paramètre accelerator-type lorsque vous lancez un TPU. Pour un TPU v4 ou une version ultérieure, vous pouvez spécifier le type et la taille à l'aide de AcceleratorType ou de AcceleratorConfig. Pour en savoir plus, consultez la section Configurations TPU. La commande de type de TPU varie selon que vous utilisez des VM TPU ou des nœuds TPU. Des exemples de commandes sont présentés dans la section Gérer les TPU.

Étapes suivantes

  • Pour connaître les tarifs des TPU dans chaque région, reportez-vous à la page Tarifs.
  • Pour en savoir plus sur l'architecture des TPU, consultez la page Architecture du système.
  • Consultez la section Quand utiliser des TPU pour en savoir plus sur les types de modèles adaptés à Cloud TPU.