Régions et zones de TPU
Présentation
Les principales différences entre les types de TPU sont le prix, les performances, la capacité de mémoire et la disponibilité zonale.
Google Cloud définit les zones géographiques à l'aide de régions subdivisées en zones
l'emplacement des ressources de calcul physiques. Par exemple,
La région us-central1
est une région proche du centre géographique de
aux États-Unis. Lorsque vous créez une VM TPU, vous spécifiez la zone dans laquelle
que vous voulez le créer. Reportez-vous à la documentation Global, régional et zonal de Compute Engine
ressources
pour en savoir plus sur les ressources régionales et zonales.
Vous pouvez créer des configurations TPU dans les zones indiquées dans le tableau suivant.
États-Unis
Type de TPU (v2) | Cœurs de TPU v2 | Zones disponibles |
---|---|---|
v2-8 | 8 |
us-central1-b us-central1-c us-central1-f
|
v2-32 | 32 |
us-central1-a
|
v2-128 | 128 |
us-central1-a
|
v2-256 | 256 |
us-central1-a
|
v2-512 | 512 |
us-central1-a
|
Type de TPU (v3) | Cœurs de TPU v3 | Zones disponibles |
v3-8 | 8 |
us-central1-a us-central1-b us-central1-f
|
Type de TPU (v4) | Puces TPU v4 | Zones disponibles |
Toutes les configurations v4 | varie selon la taille des tranches |
us-central2-b |
Type de TPU (v5e) | Puces TPU v5e | Zones disponibles |
Toutes les configurations v5litepod | varie selon la taille des tranches |
us-central1-a us-east5-a us-east5-b us-east5-c us-south1-a us-west1-c us-west4-a us-west4-b |
Type de TPU (v5p) | Puces TPU v5p | Zones disponibles |
Toutes les configurations v5p | varie selon la taille des tranches |
us-east5-a us-east5-c us-east1-d |
Europe
Type de TPU (v2) | Cœurs de TPU v2 | Zones disponibles |
---|---|---|
v2-8 | 8 |
europe-west4-a
|
v2-32 | 32 |
europe-west4-a
|
v2-128 | 128 |
europe-west4-a
|
v2-256 | 256 |
europe-west4-a
|
v2-512 | 512 |
europe-west4-a
|
Type de TPU (v3) | Cœurs de TPU v3 | Zones disponibles |
v3-8 | 8 |
europe-west4-a
|
v3-32 | 32 |
europe-west4-a
|
v3-64 | 64 |
europe-west4-a
|
v3-128 | 128 |
europe-west4-a
|
v3-256 | 256 |
europe-west4-a
|
v3-512 | 512 |
europe-west4-a
|
v3-1024 | 1 024 |
europe-west4-a
|
v3-2048 | 2 048 |
europe-west4-a
|
Type de TPU (v5e) | Puces TPU v5e | Zones disponibles |
V5lite-1 | 1 |
europe-west4-b |
V5lite-4 | 4 |
europe-west4-b |
V5lite-8 | 8 |
europe-west4-b |
Toutes les configurations v5litepod | varie selon la taille des tranches |
europe-west1-b europe-west4-a europe-west4-b |
Asie-Pacifique
Type de TPU (v2) | Cœurs de TPU v2 | Zones disponibles |
---|---|---|
v2-8 | 8 |
asia-east1-c
|
Type de TPU (v5e) | Puces TPU v5e | Zones disponibles |
Toutes les configurations v5litepod | varie selon la taille des tranches |
asia-southeast1-b
|
Les types de TPU dotés d'un plus grand nombre de puces ou de cœurs ne sont disponibles que dans un nombre limité quantités. Les types de TPU avec un nombre inférieur de puces ou de cœurs sont plus susceptibles d'être disponibles.
Identifier le meilleur compromis prix/performances
Pour choisir le type de TPU à utiliser, vous pouvez effectuer des tests à l'aide d'un Tutoriel Cloud TPU pour entraîner un modèle semblables à votre application.
Exécutez le tutoriel pour 5 à 10% du nombre d'étapes que vous utiliserez pour effectuer l'ensemble
l'entraînement sur un type de TPU v2-8
ou v3-8
. Résultat
indique le temps nécessaire pour exécuter ce nombre de pas pour ce modèle sur chaque
Type de TPU.
Étant donné que les performances sur les types de TPU évoluent de façon linéaire,
pour exécuter une tâche sur un type de TPU v2-8
ou v3-8
, vous pouvez
Estimez dans quelle mesure vous pouvez réduire le temps d'exécution des tâches en exécutant votre modèle sur un TPU plus grand
avec plus de puces ou de cœurs.
Par exemple, si un type de TPU v2-8
met 60 minutes à effectuer 10 000 pas, un
Le processus du nœud v2-32
devrait prendre environ 15 minutes pour effectuer la même opération
tâche.
Lorsque vous connaissez la durée d'entraînement approximative de votre modèle sur différents vous pouvez comparer le coût de la VM/du TPU à la durée d'entraînement pour déterminer le meilleur compromis en termes de prix et de performances.
Pour déterminer la différence de coût entre les différents types de TPU pour Cloud TPU et la VM Compute Engine associée, consultez la page des tarifs de Cloud TPU.
Spécifier le type de TPU
Quel que soit le framework que vous utilisez, vous devez spécifier un v2
.
ou v3
avec le type de TPU
accelerator-type
lorsque vous
lancer un TPU. Avec un TPU v4 ou une version ultérieure, vous devez
vous pouvez spécifier le type et la taille à l'aide de AcceleratorType
ou
AcceleratorConfig
Pour en savoir plus, consultez la section TPU
version. Voici quelques exemples de commandes :
comme indiqué dans la section Gérer les TPU.
Étape suivante
- Pour connaître les tarifs des TPU dans chaque région, consultez la page Tarifs. .
- Pour en savoir plus sur l'architecture des TPU, consultez la page Système Architecture.
- Consultez la section Quand utiliser les TPU pour en savoir plus sur les types de modèles bien adaptés à Cloud TPU.