Questa pagina è stata tradotta dall'API Cloud Translation.

Famiglia di macchine ottimizzate per l'acceleratore

La famiglia di macchine ottimizzate per l'acceleratore è stata progettata da Google Cloud per offrire le prestazioni e l'efficienza necessarie per i carichi di lavoro con accelerazione GPU, come l'intelligenza artificiale (AI), il machine learning (ML) e il computing ad alte prestazioni (HPC).

La famiglia di macchine ottimizzate per l'acceleratore è disponibile nelle seguenti serie di macchine: A3, A2 e G2. A ogni tipo di macchina di una serie è collegato un modello specifico e un numero di GPU NVIDIA. Puoi anche collegare alcuni modelli GPU ai tipi di macchine per uso generico N1.

Suggerimento sulla serie di macchine per tipo di carico di lavoro

La seguente sezione fornisce le serie di macchine consigliate in base ai carichi di lavoro GPU.

Modelli AI di grandi dimensioni

Tipo di carico di lavoro	Taglia ottimale	Buona alternativa
Addestramento di più server (distribuiti)	A3	A2
Inferenza	A3, A2

Modelli mainstream

Tipo di carico di lavoro	Taglia ottimale	Buona alternativa (nell'ordine consigliato)
Addestramento di più server (distribuiti)	A3	A2 G2 N1+V100
Addestramento su singolo server	A3, A2	G2 N1+V100
Inferenza	G2	N1+T4 N1+V100

Carichi di lavoro ad alta intensità di grafica

Tipo di carico di lavoro	Taglia ottimale (nell'ordine consigliato)
Streaming e transcodifica video, workstation virtuali remote, gemelli digitali	G2 N1+T4

Computing ad alte prestazioni

Per carichi di lavoro per computing ad alte prestazioni, qualsiasi serie di macchine ottimizzate per l'acceleratore funziona bene. La soluzione ottimale dipende dalla quantità di calcolo che deve essere trasferita alla GPU.

Prezzi e sconti

Tutti i tipi di macchine ottimizzate per l'acceleratore supportano le seguenti opzioni di sconto e consumo:

I tipi di macchine ottimizzate per l'acceleratore vengono fatturati per le GPU collegate, la vCPU predefinita, la memoria e l'SSD locale in bundle (se applicabile). Per ulteriori informazioni sui prezzi delle VM ottimizzate per l'acceleratore, consulta la sezione Famiglia di tipo di macchina ottimizzate per l'acceleratore nella pagina dei prezzi delle istanze VM.

La serie di macchine A3

La serie di macchine A3 è disponibile in un tipo di macchina standard e ha 208 vCPU e fino a 1872 GB di memoria. Questa serie di macchine è ottimizzata per l'addestramento ad alta intensità di calcolo e memoria, per l'addestramento di ML legato alla rete e per i carichi di lavoro HPC.

La serie di macchine A3 offre inoltre le seguenti funzionalità:

Hardware di nuova generazione: ogni tipo di macchina A3 ha GPU NVIDIA H100 collegate, che offrono 80 GB di memoria GPU per GPU ed è ideale per HPC, database e modelli linguistici di grandi dimensioni basati su trasformatore.

Questa serie di macchine si basa sul processore scalabile Intel Xeon di quarta generazione (Sapphire Rapids) e offre una frequenza turbo massima sostenuta fino a 3,3 GHz.
Scala NVLink leader del settore: le GPU NVIDIA H100 offrono una larghezza di banda NVLink GPU di picco pari a 450 GB/s in modo unidirezionale. Con una topologia NVLink complessiva tra 8 GPU in un sistema, la larghezza di banda aggregata di NVLink è fino a 7,2 TB/s. Queste GPU possono essere utilizzate come un singolo acceleratore ad alte prestazioni con spazio di memoria unificato per fornire fino a 25 petaFLOPS di potenza di calcolo AI/DL/ML e fino a 50 petaFLOPS di potenza di calcolo di inferenza.
Velocità di calcolo e networking migliorati: le GPU NVIDIA H100 offrono un miglioramento della velocità di calcolo fino a 2,5 volte e una larghezza di banda di rete 10 volte superiore rispetto alle GPU NVIDIA A100 della generazione precedente.
Ogni VM a3-highgpu-8g ha cinque schede di interfaccia di rete fisica (NIC), quattro delle quali condividono lo stesso bus PCIe (Peripheral Componenti Interconnect Express) e hanno un allineamento di accesso alla memoria non uniforme (NUMA) di un NIC su due GPU NVIDIA H100 da 80 GB. Queste quattro NIC fisiche sono ideali per la comunicazione dedicata da GPU a GPU a larghezza di banda elevata. L'altro NIC fisico risiede su un bus PCIe separato ed è ideale per altre esigenze di rete. Ogni NIC ha una larghezza di banda massima di 200 Gbit/s, per un totale di 1000 Gbit/s (1 Tbps) per VM.
Prestazioni dei cluster GPU migliorate con GPUDirect-TCPX: GPUDirect-TCPX aumenta le prestazioni di rete consentendo il trasferimento dei carichi di lavoro dei pacchetti di dati direttamente dalla memoria GPU all'interfaccia di rete.

Sfruttando GPUDirect-TCPX, le VM A3 offrono la massima velocità effettiva tra le VM in un cluster rispetto ai tipi di macchina ottimizzati per l'acceleratore A2 o G2.

Per massimizzare le prestazioni dei cluster GPU con GPUDirect-TCPX, consulta i seguenti documenti:
- Per Compute Engine, consulta Massimizzare le prestazioni di rete della GPU con GPUDirect-TCPX
- Per Google Kubernetes Engine, vedi Massimizzare la larghezza di banda di rete GPU con GPUDirect-TCPX e networking multiplo
Ottimizzazioni della virtualizzazione: la topologia PCIe Express (Peripheral Componenti Interconnect) delle VM A3 fornisce informazioni più accurate sulle località che i carichi di lavoro possono utilizzare per ottimizzare i trasferimenti di dati.

Le GPU NVIDIA H100 espongono inoltre il reset a livello di funzione (FLR) per un ripristino controllato dagli errori e supporto delle operazioni atomiche per miglioramenti della contemporaneità in determinati scenari.
Spazio di archiviazione: 6 TB di SSD locale vengono aggiunti automaticamente alle VM create utilizzando il tipo di macchina A3. L'SSD locale può essere usato per dischi temporanei o per inserire dati nelle GPU, evitando al tempo stesso i colli di bottiglia I/O.

Puoi anche collegare fino a 257 TB di spazio di archiviazione su Persistent Disk ai tipi di macchina di queste serie per le applicazioni che richiedono prestazioni di archiviazione più elevate.
Supporto di criteri di posizionamento compatto: offre un maggiore controllo sul posizionamento fisico delle VM all'interno dei data center. Ciò consente una latenza inferiore e una larghezza di banda superiore per il posizionamento delle VM all'interno di una singola zona di disponibilità. Il criterio di posizionamento compatto supporta fino a 96 VM in un sottoinsieme della rete a bassa latenza, all'interno di una determinata zona.

Tipi di disco supportati per A3

Le VM A3 possono utilizzare i seguenti tipi di archiviazione a blocchi:

Disco permanente bilanciato (pd-balanced)
Persistent Disk SSD (prestazioni) (pd-ssd)
Hyperdisk Extreme (hyperdisk-extreme)
Velocità effettiva Hyperdisk (hyperdisk-throughput)
SSD locale: aggiunto automaticamente alle VM create utilizzando il tipo di macchina A3

Limiti di disco e capacità

Puoi utilizzare una combinazione di volumi Persistent Disk e Hyperdisk con una VM, ma si applicano le seguenti limitazioni:

Il numero combinato di volumi Hyperdisk e Persistent Disk non può superare 128 per VM.
La capacità massima totale del disco (in TiB) in tutti i tipi di disco non può superare:
- Per i tipi di macchina con meno di 32 vCPU:
  - 257 TiB per tutti gli Hyperdisk o tutti i Persistent Disk
  - 257 TiB per una combinazione di Hyperdisk e Persistent Disk
- Per i tipi di macchina con 32 o più vCPU:
  - 512 TiB per tutti gli Hyperdisk
  - 512 TiB per una combinazione di Hyperdisk e Persistent Disk
  - 257 TiB per tutti i Persistent Disk

Per maggiori dettagli sui limiti di capacità, consulta Limiti di capacità Hyperdisk per VM e Capacità massima del disco permanente.

Tipi di macchina standard A3

Questo tipo di macchina ha un numero fisso di GPU H100.

Tipi di macchina	Conteggio GPU	vCPU^*	Memoria (GB)	Numero massimo di dischi per VM, su tutti i dischi^†	Volumi Hyperdisk totali massimi per VM	Dimensione totale massima del disco su tutti i dischi (TiB)^#	SSD locale	Larghezza di banda in uscita massima (Gbps)^‡
`a3-highgpu-8g`	8	208	1872	128	Velocità effettiva Hyperdisk: 64 Hyperdisk Extreme: 8	512, con un massimo di 257 TiB di Persistent Disk	Sì	1000

^* Una vCPU viene implementata come un singolo hyperthread hardware su una delle piattaforme CPU disponibili.
^†L'utilizzo di Hyperdisk e Persistent Disk viene addebitato separatamente dai prezzi del tipo di macchina.
^‡La larghezza di banda massima in uscita non può superare il numero specificato. La larghezza di banda effettiva in uscita dipende dall'indirizzo IP di destinazione e da altri fattori. Vedi Larghezza di banda della rete.
^#Per la velocità effettiva Hyperdisk, la dimensione massima per volume è 32 TiB. Per tutti gli altri volumi Persistent Disk o Hyperdisk, la dimensione massima è 64 TiB.

Limitazioni dello standard A3

Non ricevi sconti per utilizzo sostenuto e sconti per impegno di utilizzo flessibili per le VM che utilizzano i tipi di macchine standard A3.
Puoi utilizzare i tipi di macchina standard A3 solo in determinate regioni e zone.
Non puoi utilizzare i dischi permanenti a livello di regione sulle VM che utilizzano i tipi di macchine standard A3.
Il tipo di macchina standard A3 è disponibile solo sulla piattaforma Sapphire Rapids.
Se la tua VM utilizza un tipo di macchina standard A3, non puoi cambiare il tipo di macchina. Se devi utilizzare un altro tipo di macchina, devi creare una nuova VM.
Non puoi cambiare nessun altro tipo di macchina in un tipo di macchina standard A3. Se devi creare una VM che utilizza un tipo di macchina standard A3, devi crearne una nuova.
I tipi di macchina standard A3 non supportano la modalità single-tenancy.
Non puoi eseguire i tipi di macchina standard A3 sui sistemi operativi Windows.

La serie di macchine A2

La serie di macchine A2 è disponibile nei tipi di macchina A2 standard e A2 ultra. Questi tipi di macchina hanno da 12 a 96 vCPU e fino a 1360 GB di memoria.

La serie di macchine A2 offre inoltre le seguenti funzionalità:

GPU NVIDIA collegate: ogni tipo di macchina A2 dispone di GPU NVIDIA A100. Questi sono disponibili nelle opzioni A100 da 40 GB e A100 da 80 GB.
Scala NVLink leader del settore che fornisce picco di GPU per larghezza di banda di 600 GB/s con GPU NVLink. Ad esempio, i sistemi con 16 GPU hanno una larghezza di banda NVLink aggregata fino a 9,6 TBps. Queste 16 GPU possono essere utilizzate come singolo acceleratore ad alte prestazioni con spazio di memoria unificato per fornire fino a 10 petaFLOPS di potenza di calcolo e fino a 20 petaFLOPS di potenza di calcolo di inferenza, utilizzabili per carichi di lavoro di intelligenza artificiale, deep learning e machine learning.
Velocità di calcolo migliorata: le GPU NVIDIA A100 collegate offrono fino a 10 volte miglioramenti in termini di velocità di calcolo rispetto alle GPU NVIDIA V100 della generazione precedente.

Con la serie di macchine A2, puoi ottenere una larghezza di banda di rete fino a 100 Gbps.
Archiviazione: per dischi temporanei rapidi o per alimentare i dati nelle GPU evitando colli di bottiglia I/O, i tipi di macchina A2 supportano gli SSD locali come segue:
- Per i tipi di macchina standard A2, puoi aggiungere fino a 3 TB di SSD locale.
- Per i tipi di macchine A2 Ultra, l'SSD locale viene collegata automaticamente quando crei la VM.
Puoi anche collegare fino a 257 TB di spazio di archiviazione su Persistent Disk a VM A2 per le applicazioni che richiedono queste prestazioni di archiviazione più elevate.
Supporto di criteri di posizionamento compatto: offre un maggiore controllo sul posizionamento fisico delle VM all'interno dei data center. Ciò consente una latenza inferiore e una larghezza di banda superiore per il posizionamento delle VM all'interno di una singola zona di disponibilità. Per maggiori informazioni, consulta Ridurre la latenza utilizzando criteri di posizionamento compatti.

Tipi di disco supportati per A2

Le VM A2 possono utilizzare i seguenti tipi di archiviazione a blocchi:

Disco permanente bilanciato (pd-balanced)
Persistent Disk SSD (prestazioni) (pd-ssd)
Disco permanente standard (pd-standard)
SSD locale: collegato automaticamente alle VM create utilizzando i tipi di macchine ultra A2.

Tipi di macchina standard A2

Questi tipi di macchina hanno un numero fisso di GPU A100 da 40 GB.

Tipi di macchina	Conteggio GPU	vCPU^*	Memoria (GB)	Numero massimo di Persistent Disk permanenti^†	Persistent Disk totale massimo (TB)	SSD locale	Larghezza di banda in uscita massima (Gbps)^‡
`a2-highgpu-1g`	1	12	85	128	257	Sì	24
`a2-highgpu-2g`	2	24	170	128	257	Sì	32
`a2-highgpu-4g`	4	48	340	128	257	Sì	50
`a2-highgpu-8g`	8	96	680	128	257	Sì	100
`a2-megagpu-16g`	16	96	1360	128	257	Sì	100

Limitazioni dello standard A2

Non ricevi sconti per utilizzo sostenuto e sconti per impegno di utilizzo flessibili per le VM che utilizzano i tipi di macchine standard A2.
Puoi utilizzare i tipi di macchina standard A2 solo in determinate regioni e zone.
Non puoi utilizzare i dischi permanenti a livello di regione sulle VM che utilizzano i tipi di macchine standard A2.
Il tipo di macchina standard A2 è disponibile solo sulla piattaforma Cascade Lake.
Se la tua VM utilizza un tipo di macchina standard A2, puoi passare solo da un tipo di macchina standard A2 a un altro tipo di macchina standard A2. Non puoi passare a nessun altro tipo di macchina. Per saperne di più, consulta Modificare le VM ottimizzate per l'acceleratore.
Non puoi utilizzare il tipo di macchina standard a2-megagpu-16g A2 sui sistemi operativi Windows. Se utilizzi i sistemi operativi Windows, scegli un tipo di macchina standard A2 diverso.
Non puoi eseguire una formattazione rapida delle unità SSD locali collegate sulle VM Windows che utilizzano tipi di macchine standard A2. Per formattare queste unità SSD locali, devi creare un formato completo utilizzando l'utilità diskpart e specificando format fs=ntfs label=tmpfs.
I tipi di macchina standard A2 non supportano la modalità single-tenancy.

Tipi di macchine A2 Ultra

Questi tipi di macchina hanno un numero fisso di GPU A100 da 80 GB. L'SSD locale viene collegato automaticamente alle VM create utilizzando i tipi di macchine ultra di tipo A2.

Tipi di macchina	Conteggio GPU	vCPU^*	Memoria (GB)	Numero massimo di Persistent Disk permanenti^†	Persistent Disk totale massimo (TB)	SSD locale in bundle	Larghezza di banda in uscita massima (Gbps)^‡
`a2-ultragpu-1g`	1	12	170	128	257	375 GB	24
`a2-ultragpu-2g`	2	24	340	128	257	750 GB	32
`a2-ultragpu-4g`	4	48	680	128	257	1,5 TB	50
`a2-ultragpu-8g`	8	96	1360	128	257	3 TB	100

Limitazioni A2 Ultra

Non ricevi sconti per utilizzo sostenuto e sconti per impegno di utilizzo flessibili per le VM che utilizzano i tipi di macchine A2 Ultra.
Puoi utilizzare i tipi di macchina A2 Ultra solo in determinate regioni e zone.
Non puoi utilizzare i dischi permanenti a livello di regione sulle VM che utilizzano i tipi di macchine A2 Ultra.
Il tipo di macchina A2 ultra è disponibile solo sulla piattaforma Cascade Lake.
Se la tua VM utilizza un tipo di macchina A2 Ultra, non puoi cambiarlo. Se devi utilizzare un tipo di macchina A2 Ultra diverso o qualsiasi altro tipo di macchina, devi creare una nuova VM.
Non puoi cambiare nessun altro tipo di macchina in un tipo di macchina A2 ultra. Se devi creare una VM che utilizza un tipo di macchina A2 Ultra, devi creare una nuova VM.
Non puoi eseguire una formattazione rapida delle unità SSD locali collegate sulle VM Windows che utilizzano tipi di macchine ultra A2. Per formattare queste unità SSD locali, devi creare un formato completo utilizzando l'utilità diskpart e specificando format fs=ntfs label=tmpfs.

La serie di macchine G2

La serie di macchine G2 è disponibile in tipi di macchina standard con da 4 a 96 vCPU e fino a 432 GB di memoria. Questa serie di macchine è ottimizzata per carichi di lavoro di inferenza e grafica.

La serie di macchine G2 offre inoltre le seguenti funzionalità:

GPU NVIDIA collegate: ogni tipo di macchina G2 dispone di GPU NVIDIA L4.
Velocità di inferenza migliorate: i tipi di macchine G2 supportano il tipo di dati FP8 (in virgola mobile a 8 bit) che velocizza i tassi di inferenza ML e riduce i requisiti di memoria.
Prestazioni grafiche di nuova generazione: le GPU NVIDIA L4 offrono miglioramenti fino a 3 volte delle prestazioni grafiche grazie all'utilizzo di core RT di terza generazione e della tecnologia NVIDIA DLSS 3 (Deep Learning Super Sampling).
Larghezza di banda di rete ad alte prestazioni: con la serie di macchine G2, puoi ottenere fino a 100 Gbps di larghezza di banda.
Spazio di archiviazione: puoi aggiungere fino a 3 TB di SSD locale alle VM G2. Può essere utilizzata per dischi temporanei rapidi o per inviare dati alle GPU, evitando al tempo stesso i colli di bottiglia di I/O.

Puoi anche collegare i volumi Hyperdisk e Persistent Disk alle VM G2 per le applicazioni che richiedono un'archiviazione più permanente. La capacità di archiviazione massima dipende dal numero di vCPU della VM. Per maggiori dettagli, consulta Tipi di disco supportati.
Supporto di criteri di posizionamento compatto: offre un maggiore controllo sul posizionamento fisico delle VM all'interno dei data center. Ciò consente una latenza inferiore e una larghezza di banda superiore per il posizionamento delle VM all'interno di una singola zona di disponibilità. Per maggiori informazioni, consulta Ridurre la latenza utilizzando criteri di posizionamento compatti.

Tipi di disco supportati per G2

Le VM G2 possono utilizzare i seguenti tipi di archiviazione a blocchi:

Disco permanente bilanciato (pd-balanced)
Persistent Disk SSD (prestazioni) (pd-ssd)
Velocità effettiva Hyperdisk (hyperdisk-throughput)
SSD locale