Cuotas de Cloud TPU

En este documento, se enumeran las cuotas que se aplican a Cloud TPU. Información sobre los precios de Cloud TPU, consulta Precios de Cloud TPU.

Google Cloud usa cuotas para garantizar la equidad y reducir los aumentos repentinos en el uso y la disponibilidad de los recursos. Una cuota restringe la cantidad de un recurso de Google Cloud que puede usar tu proyecto de Google Cloud. Las cuotas se aplican a una variedad de tipos de recursos, incluidos los componentes de hardware, software y red. Por ejemplo, las cuotas pueden restringir la cantidad de llamadas a la API para un servicio, la cantidad de balanceadores de cargas que se usan en simultáneo en tu proyecto o la cantidad de proyectos que puedes crear. Las cuotas protegen a la comunidad de usuarios de Google Cloud mediante la prevención de la sobrecarga de los servicios. También te ayudan a administrar tus propios recursos de Google Cloud.

El sistema de cuotas Cloud realiza las siguientes acciones:

  • Supervisa el consumo de productos y servicios de Google Cloud.
  • Restringe el consumo de esos recursos.
  • Proporciona un medio para solicitar cambios en el valor de la cuota.

En la mayoría de los casos, cuando intentas consumir más de lo que permite la cuota de un recurso, el sistema bloquea el acceso al recurso, y la tarea que intentas realizar falla.

Por lo general, las cuotas se aplican a nivel del proyecto de Google Cloud. El uso de un recurso en un proyecto no afecta tu cuota disponible en otro proyecto. Dentro de un proyecto de Google Cloud, las cuotas se comparten entre todas las aplicaciones y direcciones IP.

Cuota de TPU

Hay cuotas diferentes para cada versión de TPU. Por ejemplo, hay diferentes para TPU v2, v3, etcétera. Para cada versión de TPU, existen diferentes tipos de cuota: interrumpible y según demanda (locales). La siguiente tabla se describen los diferentes tipos de cuota.

Tipo de cuota Descripción Valor predeterminado Cómo solicitar Marcas para la creación de TPU
A pedido La cantidad de recursos a pedido a los que tienes acceso. Según demanda recursos no se interrumpirán, pero la cuota a pedido no garantiza habrá suficientes recursos de Cloud TPU disponibles para satisfacer tu solicitud. v3-8 y v2-8: 16 núcleos tensores
Todos los demás: 0
Consulta Solicita una cuota adicional. No se necesitan marcas, seleccionadas de forma predeterminada.
Interrumpible La cantidad de recursos interrumpibles de Cloud TPU a los que tienes acceso. Esta cuota se aplica a las TPU interrumpibles y a las VMs Spot de TPU. Los recursos interrumpibles pueden ser interrumpidos para dar lugar a mayor prioridad de seguridad en la nube. La cuota de recursos interrumpibles no garantiza que haya suficiente Recursos de Cloud TPU para satisfacer tu solicitud. Para obtener más información, consulta Las TPU interrumpibles y Administra las VMs Spot de TPU. v3-8 y v2-8: 48 núcleos tensores
Todos los demás: 0
Consulta Solicita una cuota adicional.
  • VMs Spot: Usa el --spot.
  • TPU interrumpibles: Usa el método --preemptible. El --preemptible La marca no es compatible con el estado en cola recursos. En su lugar, usa la marca --spot.

Las cuotas de TPU se especifican en términos de núcleos de TPU por proyecto y por zona o de núcleos de TPU por proyecto y por región.

Cuotas de TPU v5p

Puedes usar tu cuota de TPU v5p en cualquier combinación de núcleos. Por ejemplo, si tienes una cuota de 32 núcleos, puedes usarla para crear cuatro porciones de TPU cada una con 8 núcleos.

Cuotas interrumpibles:

  • Núcleos interrumpibles de TPU v5p por proyecto y por región
  • Núcleos interrumpibles de TPU v5p por proyecto y por zona

Cuotas a pedido:

  • Núcleos de TPU v5p por proyecto y por región
  • Núcleos de TPU v5p por proyecto y por zona

Cuotas de TPU v5e

TPU v5e se puede usar para el entrenamiento y la entrega. Hay cuotas independientes para entrenamiento y entrega, así como host único (núcleos lite) y hosts múltiples (núcleos de Pod Lite).

Cuotas de entrega

Cuotas de entrega interrumpibles:

  • Núcleos interrumpibles de Pods de TPU v5 Lite para entregar por proyecto y por región
  • Núcleos interrumpibles de Pods de TPU v5 Lite para entregar por proyecto y por zona

Cuotas de entrega a pedido:

  • Núcleos de pod de TPU v5 Lite para entregar por proyecto y por región
  • Núcleos de pod de TPU v5 Lite para entregar por proyecto y por zona

Cuotas de entrenamiento

Cuotas de entrenamiento interrumpibles:

  • Núcleos interrumpibles de TPU v5 Lite por proyecto y por región
  • Núcleos interrumpibles de TPU v5 Lite por proyecto y por zona
  • Núcleos interrumpibles de Pods de TPU v5 Lite por proyecto y por región
  • Núcleos interrumpibles de Pods de TPU v5 Lite por proyecto y por zona

Cuotas de capacitación a pedido:

  • Núcleos de TPU v5 Lite por proyecto y por región
  • Núcleos de TPU v5 Lite por proyecto y por zona
  • Núcleos de pod de TPU v5 Lite por proyecto y por región
  • Núcleos de pod de TPU v5 Lite por proyecto y por zona

Cuotas de TPU v4

Puedes usar tu cuota de TPU v4 en cualquier combinación de núcleos. Por ejemplo, si tienes una cuota de 32 núcleos, puedes usarla para crear cuatro porciones de TPU cada una con 8 núcleos.

Cuotas interrumpibles:

  • Núcleos de pod de TPU v4 interrumpibles por proyecto y por región
  • Núcleos interrumpibles de Pods de TPU v4 por proyecto y por zona

Cuotas a pedido:

  • Núcleos de pod de TPU v4 por proyecto y por región
  • Núcleos de pod de TPU v4 por proyecto y por zona

Cuotas de TPU v3

Hay cuotas de TPU v3 separadas para las TPU de host único (núcleo) y TPU de varios hosts. (pod). Debes usar cuotas de Pods de v3 para crear TPU con más de 8 núcleos.

Cuotas interrumpibles:

  • Núcleos interrumpibles de TPU v3 por proyecto y por región
  • Núcleos interrumpibles de TPU v3 por proyecto y por zona
  • Núcleos interrumpibles de Pod de TPU v3 por proyecto y por región
  • Núcleos interrumpibles de Pods de TPU v3 por proyecto y por zona

Cuotas a pedido:

  • Núcleos de TPU v3 por proyecto y por región
  • Núcleos de TPU v3 por proyecto y por zona
  • Núcleos de pod de TPU v3 por proyecto y por región
  • Núcleos de pod de TPU v3 por proyecto y por zona

Cuotas de TPU v2

Hay cuotas de TPU v2 independientes para las TPU de host único (núcleo) y de hosts múltiples. (Pod).

Cuotas interrumpibles:

  • Núcleos interrumpibles de TPU v2 por proyecto y por región
  • Núcleos interrumpibles de TPU v2 por proyecto y por zona
  • Núcleos de pod de TPU v2 interrumpibles por proyecto y por región
  • Núcleos de pod de TPU v2 interrumpibles por proyecto y por zona

Cuotas a pedido:

  • Núcleos de TPU v2 por proyecto y por región
  • Núcleos de TPU v2 por proyecto y por zona
  • Núcleos de pod de TPU v2 por proyecto y por región
  • Núcleos de pod de TPU v2 por proyecto y por zona

Para obtener más información sobre los chips TPU y TensorCores, consulta Sistema de TPU. arquitectura.

Ver y solicitar cuota adicional

Puedes ver la cuota asignada a tu proyecto de Google Cloud en la en la página Cuotas Consola de Google Cloud. Si necesitas una cuota adicional de Cloud TPU, puedes solicitarla en la página . Para obtener más información, consulta Cómo solicitar una cuota más alta. límite.