Panoramica della creazione di un'istanza con GPU collegate

Compute Engine fornisce le unità di elaborazione grafica (GPU) che puoi aggiungere alle tue macchine virtuali (VM). Puoi utilizzare queste GPU per accelerare carichi di lavoro specifici sulle tue VM come machine learning ed elaborazione di dati.

Questo documento offre una panoramica dei passaggi necessari per creare una VM con GPU collegate.

Per ulteriori informazioni sulle GPU su Compute Engine, consulta Informazioni sulle GPU.

Seleziona il modello di GPU

Per un elenco dei modelli di GPU disponibili, consulta Piattaforme GPU. Prendi nota anche del tipo di macchina supportato per il modello di GPU selezionato.

Per ogni modello, potrebbe essere utile esaminare anche quanto segue:

Limitazioni

Oltre alle limitazioni per tutte le VM con GPU, ogni serie di macchine con GPU collegate presenta le seguenti limitazioni:

VM A4

  • Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A4.
  • Non sono previsti sconti per utilizzo sostenuto e per impegno di utilizzo flessibile per le VM che utilizzano un tipo di macchina A4.
  • Puoi utilizzare un tipo di macchina A4 solo in alcune regioni e zone.
  • Non puoi utilizzare Persistent Disk (a livello di regione o di zona) su una VM che utilizza il tipo di macchina A4.
  • Il tipo di macchina A4 è disponibile solo sulla piattaforma CPU Emerald Rapids.
  • Non puoi modificare il tipo di macchina di una VM di tipo A4. Se devi modificare il tipo di macchina, devi creare una nuova VM.
  • Non puoi modificare il tipo di macchina di una VM in un tipo di macchina A4. Se hai bisogno di una VM che utilizzi un tipo di macchina A4, devi creare una nuova VM.
  • I tipi di macchine A4 non supportano la modalità single-tenancy.
  • Non puoi eseguire sistemi operativi Windows su un tipo di macchina A4.

VM A3 Ultra

  • Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A3 Ultra.
  • Non sono previsti sconti per utilizzo sostenuto e per impegno di utilizzo flessibile per le VM che utilizzano un tipo di macchina A3 Ultra.
  • Puoi utilizzare un tipo di macchina A3 Ultra solo in alcune regioni e zone.
  • Non puoi utilizzare Persistent Disk (a livello di regione o di zona) su una VM che utilizza il tipo di macchina A3 Ultra.
  • Il tipo di macchina A3 Ultra è disponibile solo sulla piattaforma CPU Emerald Rapids.
  • Non puoi modificare il tipo di macchina di una VM di tipo A3 Ultra. Se devi modificare il tipo di macchina, devi creare una nuova VM.
  • Non puoi modificare il tipo di macchina di una VM in un tipo di macchina A3 Ultra. Se hai bisogno di una VM che utilizzi un tipo di macchina A3 Ultra, devi creare una nuova VM.
  • I tipi di macchine A3 Ultra non supportano la modalità single-tenancy.
  • Non puoi eseguire sistemi operativi Windows su un tipo di macchina A3 Ultra.

VM A3 Mega

  • Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A3 Mega.
  • Non sono previsti sconti per utilizzo sostenuto e per impegno di utilizzo flessibile per le VM che utilizzano un tipo di macchina A3 Mega.
  • Puoi utilizzare un tipo di macchina A3 Mega solo in alcune regioni e zone.
  • Non puoi utilizzare i Persistent Disk a livello di regione su una VM che utilizza il tipo di macchina A3 Mega.
  • Il tipo di macchina A3 Mega è disponibile solo sulla piattaforma CPU Sapphire Rapids.
  • Non puoi modificare il tipo di macchina di una VM di tipo A3 Mega. Se devi modificare il tipo di macchina, devi creare una nuova VM.
  • Non puoi modificare il tipo di macchina di una VM in un tipo di macchina A3 Mega. Se hai bisogno di una VM che utilizzi un tipo di macchina A3 Mega, devi creare una nuova VM.
  • I tipi di macchine A3 Mega non supportano la modalità single-tenancy.
  • Non puoi eseguire sistemi operativi Windows su un tipo di macchina A3 Mega.

VM A3 High

  • Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A3 High.
  • Non sono previsti sconti per utilizzo sostenuto e per impegno di utilizzo flessibile per le VM che utilizzano un tipo di macchina A3 High.
  • Puoi utilizzare un tipo di macchina A3 High solo in alcune regioni e zone.
  • Non puoi utilizzare i Persistent Disk a livello di regione su una VM che utilizza il tipo di macchina A3 High.
  • Il tipo di macchina A3 High è disponibile solo sulla piattaforma CPU Sapphire Rapids.
  • Non puoi modificare il tipo di macchina di una VM di tipo A3 High. Se devi modificare il tipo di macchina, devi creare una nuova VM.
  • Non puoi modificare il tipo di macchina di una VM in un tipo di macchina A3 High. Se hai bisogno di una VM che utilizzi un tipo di macchina A3 High, devi creare una nuova VM.
  • I tipi di macchine A3 High non supportano la modalità single-tenancy.
  • Non puoi eseguire sistemi operativi Windows su un tipo di macchina A3 High.
  • Per i tipi di macchine a3-highgpu-1g, a3-highgpu-2g ea3-highgpu-4g, si applicano le seguenti limitazioni:
    • Per questi tipi di macchine, devi creare VM utilizzando VM spot o una funzionalità che utilizza il Dynamic Workload Scheduler (DWS), come le richieste di ridimensionamento in un MIG Per istruzioni dettagliate su una di queste opzioni, consulta quanto segue:
    • Non puoi utilizzare Hyperdisk bilanciato con questi tipi di macchine.
    • Non puoi creare prenotazioni.
    Se provi a creare una VM utilizzando il provisioning standard o a creare una prenotazione per questi tipi di macchine, riceverai un messaggio di errore.

VM A3 Edge

  • Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A3 Edge.
  • Non sono previsti sconti per utilizzo sostenuto e per impegno di utilizzo flessibile per le VM che utilizzano un tipo di macchina A3 Edge.
  • Puoi utilizzare un tipo di macchina A3 Edge solo in alcune regioni e zone.
  • Non puoi utilizzare i Persistent Disk a livello di regione su una VM che utilizza il tipo di macchina A3 Edge.
  • Il tipo di macchina A3 Edge è disponibile solo sulla piattaforma CPU Sapphire Rapids.
  • Non puoi modificare il tipo di macchina di una VM di tipo A3 Edge. Se devi modificare il tipo di macchina, devi creare una nuova VM.
  • Non puoi modificare il tipo di macchina di una VM in un tipo di macchina A3 Edge. Se hai bisogno di una VM che utilizzi un tipo di macchina A3 Edge, devi creare una nuova VM.
  • I tipi di macchine A3 Edge non supportano la modalità single-tenancy.
  • Non puoi eseguire sistemi operativi Windows su un tipo di macchina A3 Edge.

VM A2 Standard

  • Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A2 Standard.
  • Non sono previsti sconti per utilizzo sostenuto e per impegno di utilizzo flessibile per le VM che utilizzano un tipo di macchina A2 Standard.
  • Puoi utilizzare un tipo di macchina A2 Standard solo in alcune regioni e zone.
  • Il tipo di macchina A2 Standard è disponibile solo sulla piattaforma Cascade Lake.
  • Se la tua VM utilizza un tipo di macchina A2 Standard, puoi passare solo da un tipo di macchina A2 Standard a un altro tipo di macchina A2 Standard. Non puoi passare a un altro tipo di macchina. Per ulteriori informazioni, consulta Modifica le VM ottimizzate per l'acceleratore.
  • Non puoi utilizzare il sistema operativo Windows con <codea2-megagpu-16g< code="" dir="ltr" translate="no"> i tipi di macchine A2 Standard. Quando utilizzi sistemi operativi Windows, scegli un tipo di macchina A2 Standard diverso.</codea2-megagpu-16g<>
  • Non puoi formattare rapidamente le unità SSD locali collegate sulle VM Windows che utilizzano i tipi di macchine A2 Standard. Per formattare questi SSD locali, devi eseguire una formattazione completa utilizzando l'utilità diskpart e specificando format fs=ntfs label=tmpfs.
  • I tipi di macchine A2 Standard non supportano la modalità single-tenancy.

VM A2 Ultra

  • Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A2 Ultra.
  • Non sono previsti sconti per utilizzo sostenuto e per impegno di utilizzo flessibile per le VM che utilizzano un tipo di macchina A2 Ultra.
  • Puoi utilizzare un tipo di macchina A2 Ultra solo in alcune regioni e zone.
  • Il tipo di macchina A2 Ultra è disponibile solo sulla piattaforma Cascade Lake.
  • Se la tua VM utilizza un tipo di macchina A2 Ultra, non puoi modificarlo. Se devi utilizzare un altro tipo di macchina A2 Ultra o qualsiasi altro tipo di macchina, devi creare una nuova VM.
  • Non puoi modificare un altro tipo di macchina in un tipo A2 Ultra. Se hai bisogno di una VM che utilizzi un tipo di macchina A2 Ultra, devi creare una nuova VM.
  • Non puoi formattare rapidamente le unità SSD locali collegate sulle VM Windows che utilizzano i tipi di macchine A2 Ultra. Per formattare questi SSD locali, devi eseguire una formattazione completa utilizzando l'utilità diskpart e specificando format fs=ntfs label=tmpfs.

VM G2

  • Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina G2.
  • Non sono previsti sconti per utilizzo sostenuto e per impegno di utilizzo flessibile per le VM che utilizzano un tipo di macchina G2.
  • Puoi utilizzare un tipo di macchina G2 solo in alcune regioni e zone.
  • Il tipo di macchina G2 è disponibile solo sulla piattaforma Cascade Lake.
  • Il disco permanente standard (pd-standard) non è supportato nelle VM che utilizzano i tipi di macchine standard G2. Per i tipi di dischi supportati, consulta Tipi di dischi supportati per G2.
  • Non puoi creare GPU multi-istanza sui tipi di macchine G2.
  • Se devi modificare il tipo di macchina di una VM G2, consulta Modifica le VM ottimizzate per l'acceleratore.
  • Non puoi utilizzare Deep Learning VM Image come dischi di avvio per le tue VM che utilizzano tipi di macchine G2.
  • L'attuale driver predefinito per Container-Optimized OS non supporta le GPU L4 in esecuzione su tipi di macchine G2. Container-Optimized OS supporta anche solo un insieme selezionato di driver. Se vuoi utilizzare Container-Optimized OS sui tipi di macchine G2, consulta le seguenti note:
    • Utilizza una versione di Container-Optimized OS che supporti la versione minima consigliata del driver NVIDIA 525.60.13 o successive. Per ulteriori informazioni, consulta le note di rilascio di Container-Optimized OS.
    • Quando installi il driver, specifica la versione più recente disponibile adatta alle GPU L4. Ad esempio, sudo cos-extensions install gpu -- -version=525.60.13.
  • Devi utilizzare Google Cloud CLI o REST per creare VM G2 per i seguenti scenari:
    • Specifica i valori di memoria personalizzati.
    • Personalizza il numero di core della CPU visibili.

VM N1+GPU

Per saperne di più sulle limitazioni delle istanze N1 con GPU, consulta le funzionalità per la serie di macchine N1 e le GPU per la serie di macchine N1.

Scegli un sistema operativo

Se utilizzi GPU per il machine learning, utilizza uno dei seguenti sistemi operativi:

  • Immagini ottimizzate per i workload di AI. Puoi utilizzare le immagini Ubuntu e Rocky, disponibili in versioni ottimizzate per l'acceleratore con i driver e il toolkit CUDA preinstallati. Consulta la sezione Immagini sistema operativo nella documentazione di AI Hypercomputer.
  • Deep Learning VM Image. Ogni VM di deep learning dispone di uno strumento di installazione del driver GPU e include pacchetti come TensorFlow e PyTorch. Puoi anche utilizzare una VM di deep learning per workload GPU generici. Per saperne di più sulle immagini e sui pacchetti disponibili installati su queste immagini, consulta Scegliere un'immagine.

In alternativa, puoi utilizzare qualsiasi immagine pubblica o immagine personalizzata. Tieni presente che alcune immagini potrebbero richiedere un driver univoco o avere un processo di installazione che non rientra nell'ambito della documentazione di Compute Engine. Per identificare i driver appropriati per l'immagine sistema operativo, consulta la sezione sull'installazione dei driver GPU.

Controlla la quota di GPU

Per proteggere gli utenti e i sistemi Compute Engine, i nuovi progetti hanno una quota di GPU globale che limita il numero totale di GPU che puoi creare in qualsiasi zona supportata. Per esaminare la quota di GPU, consulta Quota di GPU.

Se hai bisogno di una quota di GPU aggiuntiva, richiedi un aumento della quota. Quando richiedi una quota di GPU, devi richiederne una per i tipi di GPU che vuoi creare in ciascuna regione e una globale aggiuntiva per il numero totale di GPU di tutti i tipi in tutte le zone.

Se il tuo progetto ha una cronologia della fatturazione stabilita, riceverà la quota automaticamente dopo l'invio della richiesta.

VM GPU e quote di allocazione preemptible

<<../_shared/_gpu_vms_with_predefined_runtime.md>>!

Crea una VM con GPU collegate

Per creare una VM con GPU collegate, completa i seguenti passaggi:

  1. Crea la VM. Il metodo utilizzato per creare una VM dipende dal modello di GPU selezionato.

  2. Affinché la VM utilizzi la GPU, devi installare il driver della GPU sulla VM. Se hai attivato una workstation virtuale NVIDIA RTX (precedentemente nota come NVIDIA GRID), installa un driver per la workstation virtuale.

Passaggi successivi