Quote di Cloud TPU

Questo documento elenca le quote che si applicano a Cloud TPU. Per informazioni sui prezzi di Cloud TPU, consulta i prezzi di Cloud TPU.

Una quota limita la quantità di una risorsa Google Cloud condivisa che un progetto Google Cloud può utilizzare, inclusi hardware, software e componenti di rete. Pertanto, le quote fanno parte di un sistema che:

  • Monitora l'utilizzo o il consumo dei prodotti e dei servizi Google Cloud.
  • Limita il consumo di queste risorse, per motivi che includono la garanzia di equità e la riduzione dei picchi di utilizzo.
  • Mantiene le configurazioni che applicano automaticamente le limitazioni prescritte.
  • Consente di richiedere o modificare la quota.

Nella maggior parte dei casi, quando viene superata una quota, il sistema blocca immediatamente l'accesso alla risorsa Google pertinente e l'attività che stai tentando di eseguire non riesce. Nella maggior parte dei casi, le quote vengono applicate a ogni progetto Google Cloud e vengono condivise tra tutte le applicazioni e gli indirizzi IP che utilizzano il progetto Google Cloud.

Quota TPU

Esistono quote diverse per ogni versione di TPU. Ad esempio, esistono quote diverse per TPU v2, v3 e così via. Per ogni versione di TPU esistono diversi tipi di quota: on demand e prerilasciabili (spot). La seguente tabella descrive i diversi tipi di quota.

Tipo di quota Descrizione Valore predefinito Come effettuare la richiesta Flag per la creazione di TPU
On demand Il numero di risorse on demand a cui hai accesso. Le risorse on demand non verranno prerilasciate, ma la quota on demand non garantisce che ci saranno risorse Cloud TPU disponibili sufficienti per soddisfare la tua richiesta. v3-8 e v2-8: 16 TensorCore
Tutti gli altri: 0
Vedi Richiedere una quota aggiuntiva. Nessun flag necessario, selezionato per impostazione predefinita.
Prerilasciabile Il numero di risorse Cloud TPU prerilasciabili a cui hai accesso. Questa quota si applica sia alle TPU prerilasciabili che alle VM spot TPU. Le risorse prerilasciabili possono essere prerilasciate per fare spazio a job con priorità più elevata. La quota prerilasciabile non garantisce che saranno disponibili risorse Cloud TPU sufficienti per soddisfare la tua richiesta. Per maggiori informazioni, consulta TPU prerilasciabili e Gestire le VM Spot TPU. v3-8 e v2-8: 48 TensorCore
Tutti gli altri: 0
Vedi Richiedere una quota aggiuntiva.

Le quote TPU sono specificate in termini di core TPU per progetto per zona o core TPU per progetto per regione.

Quote TPU v5p

Puoi utilizzare la tua quota TPU v5p in qualsiasi combinazione di core. Ad esempio, se disponi di una quota per 32 core, puoi utilizzare questa quota per creare quattro sezioni TPU ciascuna con 8 core.

Quote prerilasciabili:

  • Core TPU v5p prerilasciabili per progetto e per regione
  • Core TPU v5p prerilasciabili per progetto e per zona

Quote on demand:

  • Core TPU v5p per progetto e per regione
  • Core TPU v5p per progetto e zona

Quote TPU v5e

TPU v5e può essere utilizzato per l'addestramento e la pubblicazione. Esistono quote separate per l'addestramento e la pubblicazione, nonché quote a host singolo (core Lite) e multi-host (core di pod Lite).

Quote di pubblicazione

Quote di pubblicazione prerilasciabili:

  • Core di pod TPU v5 lite prerilasciabili per la pubblicazione per progetto e per regione
  • Core di pod TPU v5 lite prerilasciabili per la pubblicazione per progetto e per zona

Quote di pubblicazione on demand:

  • Core di pod TPU v5 lite per la pubblicazione per progetto e per regione
  • Core di pod TPU v5 lite per la gestione per progetto e per zona

Quote di addestramento

Quote di addestramento prerilasciabili:

  • Core TPU v5 lite prerilasciabili per progetto e per regione
  • Core TPU v5 lite prerilasciabili per progetto per zona
  • Core pod TPU v5 lite prerilasciabili per progetto e per regione
  • Core pod TPU v5 lite prerilasciabili per progetto per zona

Quote di addestramento on demand:

  • Core TPU v5 Lite per progetto e per regione
  • Core TPU v5 Lite per progetto e zona
  • Core di pod TPU v5 lite per progetto e per regione
  • Core di pod TPU v5 lite per progetto e per zona

Quote TPU v4

Puoi utilizzare la tua quota TPU v4 in qualsiasi combinazione di core. Ad esempio, se disponi di una quota per 32 core, puoi utilizzare questa quota per creare quattro sezioni TPU ciascuna con 8 core.

Quote prerilasciabili:

  • Core dei pod TPU v4 prerilasciabili per progetto e per regione
  • Core dei pod TPU v4 prerilasciabili per progetto e per zona

Quote on demand:

  • Core dei pod TPU v4 per progetto e per regione
  • Core dei pod TPU v4 per progetto e zona

Quote TPU v3

Esistono quote TPU v3 separate per TPU (core) host singole e TPU (pod) multihost. Devi utilizzare le quote dei pod v3 per creare TPU con più di 8 core.

Quote prerilasciabili:

  • Core TPU v3 prerilasciabili per progetto e per area geografica
  • Core TPU v3 prerilasciabili per progetto e per zona
  • Core dei pod TPU v3 prerilasciabili per progetto e per regione
  • Core dei pod TPU v3 prerilasciabili per progetto e per zona

Quote on demand:

  • Core TPU v3 per progetto e per area geografica
  • Core TPU v3 per progetto e zona
  • Core di pod TPU v3 per progetto e per regione
  • Core dei pod TPU v3 per progetto e per zona

Quote TPU v2

Esistono quote TPU v2 separate per TPU con host singolo (core) e TPU multi-host (pod).

Quote prerilasciabili:

  • Core TPU v2 prerilasciabili per progetto e per area geografica
  • Core TPU v2 prerilasciabili per progetto e per zona
  • Core dei pod TPU v2 prerilasciabili per progetto e per regione
  • Core dei pod TPU v2 prerilasciabili per progetto e per zona

Quote on demand:

  • Core TPU v2 per progetto e per area geografica
  • Core TPU v2 per progetto e zona
  • Core dei pod TPU v2 per progetto e per regione
  • Core dei pod TPU v2 per progetto e zona

Per ulteriori informazioni sui chip TPU e sui TensorCore, consulta Architettura del sistema TPU.

Visualizza e richiedi quota aggiuntiva

Puoi visualizzare la quota allocata per il tuo progetto Google Cloud nella pagina Quote della console Google Cloud. Se hai bisogno di una quota aggiuntiva per Cloud TPU, puoi richiederla dalla pagina Quote. Per maggiori informazioni, consulta Richiedere un limite di quota più elevato.