Regiones y zonas de TPU
Descripción general
Las principales diferencias entre los tipos de TPU son el precio, rendimiento, capacidad de memoria y disponibilidad zonal.
Google Cloud usa regiones, subdivididas en zonas, para definir la ubicación
de los recursos de procesamiento físicos. Por ejemplo, el
La región us-central1
corresponde a una región cercana al centro geográfico de
Estados Unidos. Cuando creas una VM de TPU, debes especificar la zona en la que
deseas crearla. Consulta la Compute Engine Global, regional y zonal
documento de recursos
para obtener más información sobre los recursos regionales y zonales.
Puedes crear configuraciones de TPU en las zonas que se muestran en la siguiente tabla.
EE.UU.
Tipo de TPU (v2) | Núcleos de TPU v2 | Zonas disponibles |
---|---|---|
v2-8 | 8 |
us-central1-b us-central1-c us-central1-f
|
v2-32 | 32 |
us-central1-a
|
v2-128 | 128 |
us-central1-a
|
v2-256 | 256 |
us-central1-a
|
v2-512 | 512 |
us-central1-a
|
Tipo de TPU (v3) | Núcleos de TPU v3 | Zonas disponibles |
v3-8 | 8 |
us-central1-a us-central1-b us-central1-f
|
Tipo de TPU (v4) | Chips TPU v4 | Zonas disponibles |
Todos los parámetros de configuración de la v4 | varía según el tamaño de la porción |
us-central2-b |
Tipo de TPU (v5e) | Chips TPU v5e | Zonas disponibles |
Todos los parámetros de configuración de v5litepod | varía según el tamaño de la porción |
us-central1-a us-east5-a us-east5-b us-east5-c us-south1-a us-west1-c us-west4-a us-west4-b |
Tipo de TPU (v5p) | Chips TPU v5p | Zonas disponibles |
Todos los parámetros de configuración de v5p | varía según el tamaño de la porción |
us-east5-a us-east5-c us-east1-d |
Europa
Tipo de TPU (v2) | Núcleos de TPU v2 | Zonas disponibles |
---|---|---|
v2-8 | 8 |
europe-west4-a
|
v2-32 | 32 |
europe-west4-a
|
v2-128 | 128 |
europe-west4-a
|
v2-256 | 256 |
europe-west4-a
|
v2-512 | 512 |
europe-west4-a
|
Tipo de TPU (v3) | Núcleos de TPU v3 | Zonas disponibles |
v3-8 | 8 |
europe-west4-a
|
v3-32 | 32 |
europe-west4-a
|
v3-64 | 64 |
europe-west4-a
|
v3-128 | 128 |
europe-west4-a
|
v3-256 | 256 |
europe-west4-a
|
v3-512 | 512 |
europe-west4-a
|
v3-1024 | 1024 |
europe-west4-a
|
v3-2048 | 2,048 |
europe-west4-a
|
Tipo de TPU (v5e) | Chips TPU v5e | Zonas disponibles |
v5lite-1 | 1 |
europe-west4-b |
v5lite-4 | 4 |
europe-west4-b |
v5lite-8 | 8 |
europe-west4-b |
Todos los parámetros de configuración de v5litepod | varía según el tamaño de la porción |
europe-west1-b europe-west4-a europe-west4-b |
Asia-Pacífico
Tipo de TPU (v2) | Núcleos de TPU v2 | Zonas disponibles |
---|---|---|
v2-8 | 8 |
asia-east1-c
|
Tipo de TPU (v5e) | Chips TPU v5e | Zonas disponibles |
Todos los parámetros de configuración de v5litepod | varía según el tamaño de la porción |
asia-southeast1-b
|
Los tipos de TPU con mayor cantidad de chips o núcleos solo están disponibles en cantidades. Es más probable que los tipos de TPU con menor cantidad de chips o núcleos disponibles.
Calcula las compensaciones de precio y rendimiento
Para decidir qué tipo de TPU quieres usar, puedes realizar experimentos con un Instructivo de Cloud TPU para entrenar un modelo que sea similar a la de tu aplicación.
Ejecuta el instructivo de un 5 a un 10% de la cantidad de pasos que usarás para ejecutar la totalidad
entrenar en un tipo de TPU v2-8
o v3-8
. El resultado
indica cuánto tiempo le lleva ejecutar esa cantidad de pasos para ese modelo en cada
tipo de TPU.
Debido a que el rendimiento en los tipos de TPU se escala de forma lineal, si sabes cuánto tiempo lleva
Para ejecutar una tarea en un tipo de TPU v2-8
o v3-8
, puedes
Calcula cuánto puedes reducir el tiempo de las tareas si ejecutas tu modelo en una TPU más grande
con más chips o núcleos.
Por ejemplo, si un tipo de TPU v2-8
tarda entre 60 minutos y 10,000 pasos, una
v2-32
nodo debería tardar aproximadamente 15 minutos en realizar el mismo
tarea.
Cuando conoces el tiempo de entrenamiento aproximado para tu modelo en diferentes tipos de TPU, puedes comparar el costo de la VM/TPU con el tiempo de entrenamiento para decidir la mejor relación precio-rendimiento.
Para determinar la diferencia de costo entre los diferentes tipos de TPU para Cloud TPU y la VM de Compute Engine asociada, consulta la Página de precios de TPU.
Especifica el tipo de TPU
Sin importar el framework que uses, debes especificar un v2
o v3
con la
accelerator-type
cuando
Inicia una TPU. Para una TPU v4 o posterior,
puedes especificar el tipo y el tamaño con AcceleratorType
o
AcceleratorConfig
Para obtener más información, consulta TPU.
versiones. Los comandos de ejemplo son
que se muestra en Administra TPU.
¿Qué sigue?
- Para ver los precios de las TPU en cada región, consulta la sección de precios. .
- Obtén más información sobre la arquitectura de TPU en la sección Sistema Arquitectura.
- Consulta Cuándo utilizar las TPU para obtener más información de modelos que funcionan bien con Cloud TPU.