Régions et zones TPU

Présentation

Les principales différences entre les types de TPU sont le prix, les performances, la capacité de mémoire et la disponibilité zonale.

Google Cloud Platform utilise des régions subdivisées en zones pour définir l'emplacement géographique des ressources de calcul physiques. Par exemple, la région us-central1 indique une région à proximité du centre géographique des États-Unis. Lorsque vous créez un nœud TPU, vous devez indiquer la zone dans laquelle vous souhaitez le créer. Pour en savoir plus sur les ressources régionales et zonales, consultez le document Ressources globales, régionales et zonales sur Compute Engine.

Vous pouvez créer votre configuration TPU dans les zones présentées dans le tableau suivant.

US

Type de TPU (v2) Cœurs de TPU v2 Mémoire de TPU totale Région/Zone
v2-8 8 64 Gio us-central1-b
us-central1-c
us-central1-f
v2-32 32 256 Gio us-central1-a
v2-128 128 1 Tio us-central1-a
v2-256 256 2 Tio us-central1-a
v2-512 512 4 Tio us-central1-a
Type de TPU (v3) Cœurs de TPU v3 Mémoire de TPU totale Zones disponibles
v3-8 8 128 Gio us-central1-a
us-central1-b
us-central1-f

Europe

Type de TPU (v2) Cœurs de TPU v2 Mémoire de TPU totale Région/Zone
v2-8 8 64 Gio europe-west4-a
v2-32 32 256 Gio europe-west4-a
v2-128 128 1 Tio europe-west4-a
v2-256 256 2 Tio europe-west4-a
v2-512 512 4 Tio europe-west4-a
Type de TPU (v3) Cœurs de TPU v3 Mémoire de TPU totale Zones disponibles
v3-8 8 128 Gio europe-west4-a
v3-32 32 512 Gio europe-west4-a
v3-64 64 1 Tio europe-west4-a
v3-128 128 2 Tio europe-west4-a
v3-256 256 4 Tio europe-west4-a
v3-512 512 8 Tio europe-west4-a
v3-1024 1 024 16 Tio europe-west4-a
v3-2048 2 048 32 Tio europe-west4-a

Asie-Pacifique

Type de TPU (v2) Cœurs de TPU v2 Mémoire de TPU totale Région/Zone
v2-8 8 64 Gio asia-east1-c

Les types de TPU dont le nombre de puces ou de cœurs sont plus élevés ne sont disponibles que dans des quantités limitées. Les types de TPU dont le nombre de cœurs ou de cœurs est plus faible sont plus susceptibles d'être disponibles.

Identifier le meilleur compromis prix/performances

Pour vous aider à choisir le type de TPU à utiliser, vous pouvez effectuer des tests à l'aide d'un tutoriel Cloud TPU afin d'entraîner un modèle semblable à votre application.

Exécutez le tutoriel pour 5 à 10% du nombre d'étapes que vous utiliserez pour exécuter l'entraînement complet sur un type de TPU v2-8 ou v3-8. Le résultat indique le temps nécessaire pour exécuter ce nombre d'étapes pour ce modèle sur chaque type de TPU.

Étant donné que les performances sur les types de TPU évoluent de manière linéaire, si vous savez combien de temps il faut pour exécuter une tâche sur un type de TPU v2-8 ou v3-8, vous pouvez estimer le temps dont vous disposez pour réduire le temps de tâche en exécutant votre modèle sur un type de TPU plus grand avec plus de puces ou de cœurs.

Par exemple, si un type de TPU v2-8 prend 60 minutes pour passer à 10 000 pas, un nœud v2-32 devrait prendre à peu près 15 minutes pour effectuer la même tâche.

Lorsque vous connaissez la durée d'entraînement approximative de votre modèle sur différents types de TPU, vous pouvez comparer le coût VM/TPU par rapport à la durée d'entraînement afin de décider du meilleur compromis.

Pour déterminer la différence de coût entre les différents types de TPU pour Cloud TPU et la VM Compute Engine associée, consultez la page des tarifs de Cloud TPU.

Spécifier le type de TPU

Quel que soit le framework que vous utilisez, TensorFlow, PyTorch ou JAX, vous devez spécifier un type de TPU v2 ou v3 avec le paramètre accelerator-type lorsque vous lancez un TPU. La commande "Type de TPU" varie selon que vous utilisez des VM TPU ou des nœuds TPU. Des exemples de commandes sont présentés dans l'article Gestion des TPU.

Étapes suivantes

  • Pour connaître les tarifs des TPU dans chaque région, consultez la page Tarifs.
  • Consultez la page Architecture du système pour en savoir plus sur l'architecture des TPU.
  • Consultez la section Quand utiliser des TPU pour en savoir plus sur les types de modèles adaptés à Cloud TPU.