Cuotas de Cloud TPU

En este documento, se enumeran las cuotas que se aplican a Cloud TPU. Información sobre los precios de Cloud TPU, consulta Precios de Cloud TPU.

Una cuota restringe cuánto de un recurso compartido de Google Cloud en particular puede usar tu proyecto de Google Cloud, incluidos los componentes de red, hardware y software. Por lo tanto, las cuotas son parte de un sistema que hace las siguientes acciones:

  • Supervisa el uso o consumo de productos y servicios de Google Cloud.
  • Restringe el consumo de esos recursos por motivos que incluyen garantizar la equidad y reducir los aumentos repentinos de uso.
  • Mantiene los parámetros de configuración que aplican de forma automática las restricciones prescritas.
  • Proporciona un medio para solicitar o hacer cambios en la cuota.

En la mayoría de los casos, cuando se excede un límite de cuota, el sistema bloquea de inmediato el acceso al recurso de Google correspondiente, y la tarea que intentas hacer falla. En la mayoría de los casos, las cuotas se aplican a cada proyecto de Google Cloud y se comparten entre todas las aplicaciones y direcciones IP que usan ese proyecto.

Cuota de TPU

Hay cuotas diferentes para cada versión de TPU. Por ejemplo, hay diferentes para TPU v2, v3, etcétera. Para cada versión de TPU, existen diferentes tipos de cuota: interrumpible y según demanda (locales). La siguiente tabla se describen los diferentes tipos de cuota.

Tipo de cuota Descripción Valor predeterminado Cómo solicitar Marcas para la creación de TPU
A pedido La cantidad de recursos a pedido a los que tienes acceso. Según demanda recursos no se interrumpirán, pero la cuota a pedido no garantiza habrá suficientes recursos de Cloud TPU disponibles para satisfacer tu solicitud. v3-8 y v2-8: 16 núcleos tensores
Todos los demás: 0
Consulta Solicita una cuota adicional. No se necesitan marcas, seleccionadas de forma predeterminada.
Interrumpible La cantidad de recursos interrumpibles de Cloud TPU a los que tienes acceso. Esta cuota se aplica a las TPU interrumpibles y a las VMs Spot de TPU. Los recursos interrumpibles pueden ser interrumpidos para dar lugar a mayor prioridad de seguridad en la nube. La cuota de recursos interrumpibles no garantiza que haya suficiente Recursos de Cloud TPU para satisfacer tu solicitud. Para obtener más información, consulta Las TPU interrumpibles y Administra las VMs Spot de TPU. v3-8 y v2-8: 48 núcleos tensores
Todos los demás: 0
Consulta Solicita una cuota adicional.

Las cuotas de TPU se especifican en términos de núcleos de TPU por proyecto y por zona o de núcleos de TPU por proyecto y por región.

Cuotas de TPU v5p

Puedes usar tu cuota de TPU v5p en cualquier combinación de núcleos. Por ejemplo, si tienes una cuota de 32 núcleos, puedes usarla para crear cuatro porciones de TPU cada una con 8 núcleos.

Cuotas interrumpibles:

  • Núcleos interrumpibles de TPU v5p por proyecto y por región
  • Núcleos interrumpibles de TPU v5p por proyecto y por zona

Cuotas a pedido:

  • Núcleos de TPU v5p por proyecto y por región
  • Núcleos de TPU v5p por proyecto y por zona

Cuotas de TPU v5e

TPU v5e se puede usar para el entrenamiento y la entrega. Hay cuotas independientes para entrenamiento y entrega, así como host único (núcleos lite) y hosts múltiples (núcleos de Pod Lite).

Cuotas de entrega

Cuotas de entrega interrumpibles:

  • Núcleos interrumpibles de Pods de TPU v5 Lite para entregar por proyecto y por región
  • Núcleos interrumpibles de Pods de TPU v5 Lite para entregar por proyecto y por zona

Cuotas de entrega a pedido:

  • Núcleos de pod de TPU v5 Lite para entregar por proyecto y por región
  • Núcleos de pod de TPU v5 Lite para entregar por proyecto y por zona

Cuotas de entrenamiento

Cuotas de entrenamiento interrumpibles:

  • Núcleos interrumpibles de TPU v5 Lite por proyecto y por región
  • Núcleos interrumpibles de TPU v5 Lite por proyecto y por zona
  • Núcleos interrumpibles de Pods de TPU v5 Lite por proyecto y por región
  • Núcleos interrumpibles de Pods de TPU v5 Lite por proyecto y por zona

Cuotas de capacitación a pedido:

  • Núcleos de TPU v5 Lite por proyecto y por región
  • Núcleos de TPU v5 Lite por proyecto y por zona
  • Núcleos de pod de TPU v5 Lite por proyecto y por región
  • Núcleos de pod de TPU v5 Lite por proyecto y por zona

Cuotas de TPU v4

Puedes usar tu cuota de TPU v4 en cualquier combinación de núcleos. Por ejemplo, si tienes una cuota de 32 núcleos, puedes usarla para crear cuatro porciones de TPU cada una con 8 núcleos.

Cuotas interrumpibles:

  • Núcleos de pod de TPU v4 interrumpibles por proyecto y por región
  • Núcleos interrumpibles de Pods de TPU v4 por proyecto y por zona

Cuotas a pedido:

  • Núcleos de pod de TPU v4 por proyecto y por región
  • Núcleos de pod de TPU v4 por proyecto y por zona

Cuotas de TPU v3

Hay cuotas de TPU v3 separadas para las TPU de host único (núcleo) y TPU de varios hosts. (pod). Debes usar cuotas de Pods de v3 para crear TPU con más de 8 núcleos.

Cuotas interrumpibles:

  • Núcleos interrumpibles de TPU v3 por proyecto y por región
  • Núcleos interrumpibles de TPU v3 por proyecto y por zona
  • Núcleos interrumpibles de Pod de TPU v3 por proyecto y por región
  • Núcleos interrumpibles de Pods de TPU v3 por proyecto y por zona

Cuotas a pedido:

  • Núcleos de TPU v3 por proyecto y por región
  • Núcleos de TPU v3 por proyecto y por zona
  • Núcleos de pod de TPU v3 por proyecto y por región
  • Núcleos de pod de TPU v3 por proyecto y por zona

Cuotas de TPU v2

Hay cuotas de TPU v2 independientes para las TPU de host único (núcleo) y de hosts múltiples. (pod).

Cuotas interrumpibles:

  • Núcleos interrumpibles de TPU v2 por proyecto y por región
  • Núcleos interrumpibles de TPU v2 por proyecto y por zona
  • Núcleos de pod de TPU v2 interrumpibles por proyecto y por región
  • Núcleos de pod de TPU v2 interrumpibles por proyecto y por zona

Cuotas a pedido:

  • Núcleos de TPU v2 por proyecto y por región
  • Núcleos de TPU v2 por proyecto y por zona
  • Núcleos de pod de TPU v2 por proyecto y por región
  • Núcleos de pod de TPU v2 por proyecto y por zona

Para obtener más información sobre los chips TPU y TensorCores, consulta Sistema de TPU. arquitectura.

Ver y solicitar cuota adicional

Puedes ver la cuota asignada a tu proyecto de Google Cloud en la en la página Cuotas Consola de Google Cloud. Si necesitas una cuota adicional de Cloud TPU, puedes solicitarla en la página . Para obtener más información, consulta Cómo solicitar una cuota más alta. límite.