Quote Cloud TPU
Questo documento elenca le quote che si applicano a Cloud TPU. Per informazioni sui prezzi di Cloud TPU, consulta Prezzi di Cloud TPU.
Google Cloud utilizza le quote per contribuire a garantire l'equità e ridurre gli picchi di utilizzo e disponibilità delle risorse. Una quota limita la quantità di una risorsa Google Cloud che può essere utilizzata nel progetto Google Cloud. Le quote si applicano a una serie di tipi di risorse, inclusi hardware, software e componenti di rete. Ad esempio, le quote possono limitare il numero di chiamate API a un servizio, il numero di bilanciatori del carico utilizzati contemporaneamente dal tuo progetto o di progetti che puoi creare. Le quote proteggono la community per gli utenti di Google Cloud evitando il sovraccarico dei servizi. Anche le quote sono utili per gestire le tue risorse Google Cloud.
Il sistema delle quote di Cloud esegue le seguenti operazioni:
- Monitora il tuo consumo dei prodotti e dei servizi Google Cloud
- Limita il consumo di queste risorse
- Fornisce un modo per richiedere modifiche al valore della quota
Nella maggior parte dei casi, quando provi a consumare più di una risorsa rispetto a quanto consentito dalla quota, il sistema blocca l'accesso alla risorsa e l'attività che stai tentando di eseguire non va a buon fine.
In genere le quote si applicano al progetto Google Cloud livello. L'utilizzo di una risorsa in un progetto non influisce la quota disponibile in un altro progetto. All'interno di un progetto Google Cloud, le quote vengono condivise tra tutte le applicazioni e gli indirizzi IP.
Quota TPU
Esistono quote diverse per ogni versione di TPU. Ad esempio, ci sono diverse per TPU v2, v3 e così via. Per ogni versione di TPU esistono tipi di quota: on demand e prerilasciabili (VM spot). La tabella seguente descrive i diversi tipi di quota.
| Tipo di quota | Descrizione | Valore predefinito | Come effettuare la richiesta | Flag per la creazione di TPU |
|---|---|---|---|---|
| On demand | Il numero di risorse on demand a cui hai accesso. Le risorse on-demand non verranno prese in preempizione, ma la quota on-demand non garantisce che ci siano risorse Cloud TPU sufficienti per soddisfare la tua richiesta. |
v3-8 e v2-8: 16 TensorCore Tutti gli altri: 0 |
Consulta Richiedi quota aggiuntiva. | Nessun flag necessario, selezionato per impostazione predefinita. |
| Prerilasciabile | Il numero di risorse Cloud TPU prerilasciabili a cui hai accesso. Questa quota si applica sia alle TPU prerilasciabili sia alle VM TPU Spot. Le risorse preassegnabili possono essere preassegnate per fare spazio a job con priorità più elevata. La quota prerilasciabile non garantisce che sarà disponibile una quantità sufficiente le risorse Cloud TPU per soddisfare le tue richieste. Per ulteriori informazioni, consulta TPU prerilasciabili e Gestire le VM TPU Spot. |
v3-8 e v2-8: 48 Tensor Core Tutti gli altri: 0 |
Vedi Richiedere una quota aggiuntiva. |
|
Le quote TPU sono specificate in termini di core TPU per progetto e per zona o core TPU per progetto e per regione.
Quote TPU v5p
Puoi utilizzare la tua quota TPU v5p in qualsiasi combinazione di core. Ad esempio, se hai una quota per 32 core, puoi utilizzarla per creare quattro slice TPU ciascuno con 8 core.
Quote prerilasciabili:
- Core TPU v5p prerilasciabili per progetto e per regione
- Core TPU v5p prerilasciabili per progetto e per zona
Quote on demand:
- Core TPU v5p per progetto e per regione
- Core TPU v5p per progetto e per zona
Quote TPU v5e
TPU v5e può essere utilizzata per l'addestramento e la pubblicazione. Esistono quote separate per la formazione e la pubblicazione, nonché per i singoli host (core lite) e i multi-host (core del pod lite).
Quote di pubblicazione
Quote di pubblicazione prerilasciabili:
- Core di pod TPU v5 lite prerilasciabili per la pubblicazione per progetto e per regione
- Core di pod TPU v5 lite prerilasciabili per la pubblicazione per progetto e per zona
Quote di pubblicazione on demand:
- Core di pod TPU v5 lite per la pubblicazione per progetto e per regione
- Core di pod TPU v5 lite da gestire per progetto e per zona
Quote di addestramento
Quote di addestramento preassegnate:
- Core TPU v5 lite prerilasciabili per progetto e per regione
- Core TPU v5 lite prerilasciabili per progetto per zona
- Core dei pod TPU v5 lite prerilasciabili per progetto e per regione
- Core pod TPU v5 lite prerilasciabili per progetto per zona
Quote di addestramento on demand:
- Core TPU v5 lite per progetto e per regione
- Core TPU v5 Lite per progetto e zona
- Core del pod TPU v5 Lite per progetto e per regione
- Core del pod TPU v5 Lite per progetto e per zona
Quote TPU v4
Puoi utilizzare la quota TPU v4 in qualsiasi combinazione di core. Ad esempio, se hai una quota per 32 core, puoi utilizzarla per creare quattro slice TPU ciascuno con 8 core.
Quote prerilasciabili:
- Core dei pod TPU v4 prerilasciabili per progetto e per regione
- Core dei pod TPU v4 prerilasciabili per progetto e per zona
Quote on demand:
- Core dei pod TPU v4 per progetto e per regione
- Core dei pod TPU v4 per progetto e per zona
Quote TPU v3
Esistono quote TPU v3 separate per TPU a singolo host (core) e TPU a più host (pod). Devi utilizzare le quote dei pod v3 per creare TPU con più di 8 core.
Quote prerilasciabili:
- Core TPU v3 prerilasciabili per progetto e per area geografica
- Core TPU v3 prerilasciabili per progetto e per zona
- Core dei pod TPU v3 prerilasciabili per progetto e per regione
- Core dei pod TPU v3 prerilasciabili per progetto e per zona
Quote on demand:
- Core TPU v3 per progetto e per area geografica
- Core TPU v3 per progetto e zona
- Core dei pod TPU v3 per progetto e per regione
- Core dei pod TPU v3 per progetto e per zona
Quote TPU v2
Esistono quote TPU v2 separate per TPU a singolo host (core) e TPU a più host (pod).
Quote prerilasciabili:
- Core TPU v2 prerilasciabili per progetto e per area geografica
- Core TPU v2 prerilasciabili per progetto e per zona
- Core dei pod TPU v2 prerilasciabili per progetto e per regione
- Core dei pod TPU v2 prerilasciabili per progetto e per zona
Quote on demand:
- Core TPU v2 per progetto e per area geografica
- Core TPU v2 per progetto e per zona
- Core dei pod TPU v2 per progetto e per regione
- Core dei pod TPU v2 per progetto e zona
Per ulteriori informazioni sui chip TPU e sui Tensor Core, consulta la sezione Architettura di sistema TPU.
Visualizza e richiedi quota aggiuntiva
Puoi visualizzare la quota allocata per il tuo progetto Google Cloud nella pagina Quote in Google Cloud Console. Se hai bisogno di un'ulteriore quota di Cloud TPU, puoi richiederla nella pagina Quote. Per ulteriori informazioni, consulta Richiedere un limite di quota più alto.