Regiones y zonas de TPU

Descripción general

Las principales diferencias entre los tipos de TPU son el precio, el rendimiento, la capacidad de memoria y la disponibilidad zonal.

Google Cloud usa regiones, subdivididas en zonas, para definir la ubicación geográfica de los recursos de procesamiento físicos. Por ejemplo, la región us-central1 corresponde a una región cercana al centro geográfico de Estados Unidos. Cuando creas un nodo TPU, debes especificar la zona en la que deseas crearlo. Consulta el documento Recursos globales, regionales y zonales de Compute Engine para obtener más información sobre los recursos regionales y zonales.

Puedes crear configuraciones de TPU en las zonas que se muestran en la siguiente tabla.

EE.UU.

Tipo de TPU (v2) Núcleos de TPU v2 Zonas disponibles
v2-8 8 us-central1-b
us-central1-c
us-central1-f
v2-32 32 us-central1-a
v2-128 128 us-central1-a
v2-256 256 us-central1-a
v2-512 512 us-central1-a
Tipo de TPU (v3) Núcleos de TPU v3 Zonas disponibles
v3-8 8 us-central1-a
us-central1-b
us-central1-f
Tipo de TPU (v4) Chips TPU v4 Zonas disponibles
Todas las configuraciones de la versión 4 varía según el tamaño de la porción us-central2-b
Tipo de TPU (v5e) Chips TPU v5e Zonas disponibles
v5litepod-1 1 us-west4-a
us-east5-b
v5litepod-4 4 us-west4-a
us-east5-b
V5litepod-8 8 us-west4-a
us-east5-b
v5litepod-16 16 us-west4-a
us-east5-b
V5litepod-32 32 us-west4-a
us-east5-b
V5litepod-64 64 us-west4-a
us-east5-b
V5litepod-128 128 us-west4-a
us-east5-b
V5litepod-256 256 us-west4-a
us-east5-b
Tipo de TPU (v5p) Chips de TPU v5p Zonas disponibles
Todas las configuraciones de v5p varía según el tamaño de la porción us-east5-a
us-east5-c
us-east1-d

Europa

Tipo de TPU (v2) Núcleos de TPU v2 Zonas disponibles
v2-8 8 europe-west4-a
v2-32 32 europe-west4-a
v2-128 128 europe-west4-a
v2-256 256 europe-west4-a
v2-512 512 europe-west4-a
Tipo de TPU (v3) Núcleos de TPU v3 Zonas disponibles
v3-8 8 europe-west4-a
v3-32 32 europe-west4-a
v3-64 64 europe-west4-a
v3-128 128 europe-west4-a
v3-256 256 europe-west4-a
v3-512 512 europe-west4-a
v3-1024 1024 europe-west4-a
v3-2048 2,048 europe-west4-a
Tipo de TPU (v5e) Chips TPU v5e Zonas disponibles
v5lite-1 1 europe-west4-b
v5lite-4 4 europe-west4-b
v5lite-8 8 europe-west4-b

Asia-Pacífico

Tipo de TPU (v2) Núcleos de TPU v2 Zonas disponibles
v2-8 8 asia-east1-c

Los tipos de TPU con mayor cantidad de chips o núcleos están disponibles solo en cantidades limitadas. Es más probable que los tipos de TPU con menor cantidad de chips o núcleos estén disponibles.

Calcula las compensaciones de precio y rendimiento

Para decidir qué tipo de TPU deseas usar, puedes experimentar con un instructivo de Cloud TPU para entrenar un modelo que sea similar a tu aplicación.

Ejecuta el instructivo para un 5 o un 10% de la cantidad de pasos que usarás a fin de ejecutar el entrenamiento completo en un v2-8 o un tipo de TPU v3-8. El resultado te indica cuánto tiempo lleva ejecutar esa cantidad de pasos para ese modelo en cada tipo de TPU.

Debido a que el rendimiento en los tipos de TPU escala de forma lineal, si sabes cuánto tiempo lleva ejecutar una tarea en un tipo de TPU v2-8 o v3-8, puedes estimar cuánto puedes reducir el tiempo de la tarea si ejecutas el modelo en un tipo de TPU más grande con más chips o núcleos.

Por ejemplo, si un tipo de TPU v2-8 tarda entre 60 y 10,000 pasos, a un nodo v2-32 debería llevar alrededor de 15 minutos realizar la misma tarea.

Cuando conoces el tiempo de entrenamiento aproximado para tu modelo en diferentes tipos de TPU, puedes comparar el costo de la VM/TPU con el tiempo de entrenamiento a fin de decidir cuál es la mejor compensación entre precio y rendimiento.

Para determinar la diferencia en el costo entre los diferentes tipos de TPU para Cloud TPU y la VM de Compute Engine asociada, consulta la página de precios de TPU.

Especifica el tipo de TPU

Sin importar el framework que uses, debes especificar un tipo de TPU v2 o v3 con el parámetro accelerator-type cuando inicies una TPU. En el caso de TPU v4 o posterior, puedes especificar el tipo y el tamaño mediante AcceleratorType o AcceleratorConfig. Para obtener más información, consulta Configuraciones de TPU. El comando de tipo de TPU depende de si usas VMs de TPU o nodos TPU. Los comandos de ejemplo se muestran en Administra las TPU.

¿Qué sigue?

  • Para ver los precios de las TPU en cada región, consulta la página de Precios.
  • Obtén más información sobre la arquitectura de TPU en la página Arquitectura del sistema.
  • Consulta Cuándo usar las TPU para obtener información sobre los tipos de modelos que funcionan con Cloud TPU.