Restez organisé à l'aide des collections Enregistrez et classez les contenus selon vos préférences.

Régions et zones TPU

Présentation

Les principales différences entre les types de TPU concernent le prix, les performances, la capacité de mémoire et la disponibilité zonale.

Google Cloud Platform définit l'emplacement géographique des ressources de calcul physiques à l'aide de régions subdivisées en zones. Par exemple, la région us-central1 est une région située à proximité du centre géographique des États-Unis. Lorsque vous créez un nœud TPU, vous spécifiez la zone dans laquelle vous souhaitez le créer. Consultez le document Ressources globales, régionales et zonales de Compute Engine pour en savoir plus sur les ressources régionales et zonales.

Vous pouvez créer des configurations de TPU v2 ou v3 dans les zones indiquées dans le tableau suivant.

États-Unis

Type de TPU (v2) Cœurs de TPU v2 Mémoire de TPU totale Région/Zone
v2-8 8 64 Gio us-central1-b
us-central1-c
us-central1-f
v2-32 32 256 Gio us-central1-a
v2-128 128 1 Tio us-central1-a
v2-256 256 2 Tio us-central1-a
v2-512 512 4 Tio us-central1-a
Type de TPU (v3) Cœurs de TPU v3 Mémoire de TPU totale Zones disponibles
v3-8 8 128 Gio us-central1-a
us-central1-b
us-central1-f

Europe

Type de TPU (v2) Cœurs de TPU v2 Mémoire de TPU totale Région/Zone
v2-8 8 64 Gio europe-west4-a
v2-32 32 256 Gio europe-west4-a
v2-128 128 1 Tio europe-west4-a
v2-256 256 2 Tio europe-west4-a
v2-512 512 4 Tio europe-west4-a
Type de TPU (v3) Cœurs de TPU v3 Mémoire de TPU totale Zones disponibles
v3-8 8 128 Gio europe-west4-a
v3-32 32 512 Gio europe-west4-a
v3-64 64 1 Tio europe-west4-a
v3-128 128 2 Tio europe-west4-a
v3-256 256 4 Tio europe-west4-a
v3-512 512 8 Tio europe-west4-a
v3-1024 1 024 16 Tio europe-west4-a
v3-2048 2 048 32 Tio europe-west4-a

Asie-Pacifique

Type de TPU (v2) Cœurs de TPU v2 Mémoire de TPU totale Région/Zone
v2-8 8 64 Gio asia-east1-c

Les types de TPU comportant un plus grand nombre de puces ou de cœurs ne sont disponibles que dans des quantités limitées. Les types de TPU ayant un nombre de puces ou de cœurs plus faible sont plus susceptibles d'être disponibles.

Identifier le meilleur compromis prix/performances

Pour vous aider à choisir le type de TPU à utiliser, vous pouvez effectuer des tests à l'aide d'un tutoriel Cloud TPU afin d'entraîner un modèle semblable à votre application.

Exécutez le tutoriel pour 5 à 10% du nombre de pas que vous utiliserez pour exécuter l'entraînement complet sur un type de TPU v2-8 ou v3-8. Le résultat vous indique le temps nécessaire pour exécuter ce nombre de pas pour ce modèle sur chaque type de TPU.

Les performances sur les types de TPU évoluent de manière linéaire. Par conséquent, si vous connaissez le temps nécessaire à l'exécution d'une tâche sur un type de TPU v2-8 ou v3-8, vous pouvez estimer le temps que cette tâche peut durer. Pour cela, exécutez votre modèle sur un type de TPU plus grand comportant davantage de puces ou de cœurs.

Par exemple, si un type de TPU v2-8 exécute 10 000 pas en 60 minutes, un nœud v2-32 devrait effectuer la même tâche en 15 minutes environ.

Lorsque vous connaissez la durée d'entraînement approximative de votre modèle sur différents types de TPU, vous pouvez comparer le coût VM/TPU par rapport à la durée d'entraînement afin de décider du meilleur compromis.

Pour déterminer la différence de coût entre les différents types de TPU pour Cloud TPU et la VM Compute Engine associée, consultez la page des tarifs de Cloud TPU.

Spécifier le type de TPU

Quel que soit le framework que vous utilisez (TensorFlow, PyTorch ou JAX), vous spécifiez un type de TPU v2 ou v3 avec le paramètre accelerator-type lorsque vous lancez un TPU. La commande "Type de TPU" varie selon que vous utilisez des VM TPU ou des nœuds TPU. Des exemples de commandes sont présentés dans la section Gérer les TPU.

Étapes suivantes

  • Pour connaître la tarification des TPU dans chaque région, consultez la page Tarifs.
  • Consultez la page Architecture du système pour en savoir plus sur l'architecture des TPU.
  • Consultez la section Cas d'utilisation de TPU pour connaître les types de modèles adaptés à Cloud TPU.