Questa pagina è stata tradotta dall'API Cloud Translation.

Famiglia di macchine ottimizzate per l'acceleratore

La famiglia di macchine ottimizzate per l'acceleratore è progettata da Google Cloud per fornire le prestazioni e l'efficienza necessarie per i carichi di lavoro con accelerazione GPU come l'intelligenza artificiale (AI), il machine learning (ML) e il computing ad alte prestazioni (HPC).

La famiglia di macchine ottimizzate per l'acceleratore è disponibile nelle seguenti serie di macchine: A3, A2 e G2. Ogni tipo di macchina di una serie ha un modello specifico e un numero di GPU NVIDIA. Puoi anche collegare alcuni modelli di GPU a tipi di macchine per uso generico N1.

Suggerimento sulle serie di macchine per tipo di carico di lavoro

La sezione seguente fornisce le serie di macchine consigliate in base ai tuoi carichi di lavoro delle GPU.

Modelli AI di grandi dimensioni

Tipo di carico di lavoro	Vestibilità ottimale	Buona alternativa
Addestramento su più server (distribuiti)	A3	A2
Inferenza	A3 e A2

Per eseguire il provisioning dei cluster per l'esecuzione di modelli e addestramento su larga scala, consulta Eseguire l'addestramento e l'ottimizzazione di modelli su larga scala.

Modelli mainstream

Tipo di carico di lavoro	Vestibilità ottimale	Buona alternativa (nell'ordine consigliato)
Addestramento su più server (distribuiti)	A3	A2 G2 N1+V100
Addestramento su server singolo	A3 e A2	G2 N1+V100
Inferenza	G2	N1+T4 N1+V100

Per eseguire il provisioning dei cluster per l'esecuzione di modelli mainstream, consulta Eseguire l'addestramento e l'ottimizzazione dei modelli mainstream.

Carichi di lavoro ad alta intensità di grafica

Tipo di carico di lavoro	Taglia ottimale (nell'ordine consigliato)
Streaming e transcodifica di video, workstation virtuali remote, gemelli digitali	G2 N1+T4

Per eseguire il provisioning delle VM per carichi di lavoro ad alta intensità di grafica, esamina queste opzioni.

Computing ad alte prestazioni

Per carichi di lavoro di computing ad alte prestazioni, qualsiasi serie di macchine ottimizzata per l'acceleratore funziona bene. La soluzione migliore dipende dalla quantità di calcolo che deve essere scaricata nella GPU.

Prezzi e sconti

Tutti i tipi di macchine ottimizzati per l'acceleratore supportano le seguenti opzioni di sconto e consumo:

I tipi di macchine ottimizzati per l'acceleratore vengono fatturati per le GPU collegate, le vCPU predefinite, la memoria e l'SSD locale in bundle (se applicabile). Per ulteriori informazioni sui prezzi delle VM ottimizzate per l'acceleratore, consulta la sezione Famiglia di tipo di macchina ottimizzate per l'acceleratore nella pagina dei prezzi delle istanze VM.

La serie di macchine A3

La serie di macchine A3 ha 208 vCPU e 1.872 GB di memoria. Questa serie di macchine è ottimizzata per carichi di calcolo e di memoria ad alta intensità di calcolo, addestramento ML associato alla rete e carichi di lavoro HPC.

La serie di macchine A3 offre inoltre le seguenti caratteristiche:

Hardware di nuova generazione: a ogni tipo di macchina A3 sono collegate GPU NVIDIA H100 SXM, che offrono 80 GB di memoria GPU per GPU ed è ideale per HPC, database e modelli linguistici basati su trasformatore di grandi dimensioni.

Questa serie di macchine è basata sul processore Intel Xeon scalabile di quarta generazione (Sapphire Rapids) e offre una frequenza turbo massima single-core fino a 3,3 GHz.
Scalabilità NVLink leader del settore: le GPU NVIDIA H100 offrono una larghezza di banda di NVLink delle GPU massima di 450 GB/s, in modo unidirezionale. Con una topologia NVLink complessiva tra 8 GPU in un sistema, la larghezza di banda aggregata di NVLink è pari a 7,2 TB/s. Queste GPU possono essere utilizzate come singolo acceleratore ad alte prestazioni con spazio di memoria unificato per fornire fino a 25 petaFLOPS di potenza di calcolo AI/DL/ML e fino a 50 petaFLOPS di potenza di calcolo di inferenza.
Velocità di calcolo e networking migliorate: le GPU NVIDIA H100 offrono un miglioramento della velocità di calcolo fino a 2,5 volte superiore rispetto alle GPU NVIDIA A100.

Il tipo di macchina a3-highgpu-8g fornisce una larghezza di banda di rete 10 volte superiore rispetto ai tipi di macchine A2 della generazione precedente. Il tipo di macchina a3-megagpu-8g fornisce una larghezza di banda di rete doppia rispetto a quella di a3-highgpu-8g e una larghezza di banda di rete 20 volte superiore rispetto ai tipi di macchine A2.
Le VM A3 hanno anche più schede di interfaccia di rete fisica (NIC) collegate. Ognuna di queste NIC ha una larghezza di banda massima di 200 Gbps. Per ogni tipo di macchina A3, le NIC sono disposte come segue su un bus Peripheral Component Interconnect Express (PCIe):
- Per il tipo di macchina a3-highgpu-8g: è disponibile una disposizione NIC di 4+1. Con questo accordo, 4 NIC condividono lo stesso bus PCIe e 1 NIC risiede su un bus PCIe separato.
- Per il tipo di macchina a3-megagpu-8g: è disponibile una disposizione NIC di 8+1. Con questo accordo, 8 NIC condividono lo stesso bus PCIe e 1 NIC risiede su un bus PCIe separato.
Le NIC che condividono lo stesso bus PCIe hanno un allineamento NUMA (Non-Uniform Memory Access) di un NIC per due GPU NVIDIA H100 da 80 GB. Queste NIC sono ideali per la comunicazione tra GPU dedicate a larghezza di banda elevata e GPU. Il NIC fisico che risiede su un bus PCIe separato è ideale per altre esigenze di networking.
Prestazioni del cluster GPU migliorate con GPUDirect-TCPX e GPUDirect-TCPXO:
- Per il tipo di macchina a3-highgpu-8g, GPUDirect-TCPX aumenta le prestazioni di rete consentendo il trasferimento diretto dei payload dei pacchetti di dati dalla memoria GPU all'interfaccia di rete. Sfruttando GPUDirect-TCPX, il tipo di macchina a3-highgpu-8g raggiunge una velocità effettiva molto più elevata tra le VM in un cluster rispetto ai tipi di macchina ottimizzati per l'acceleratore A2 o G2.
- Per il tipo di macchina a3-megagpu-8g, GPUDirect-TCPXO migliora ulteriormente GPUDirect-TCPX riducendo il carico dell'elaborazione del protocollo TCP nei core ACC dell'architettura Diorite. Sfruttando GPUDirect-TCPXO, il tipo di macchina a3-megagpu-8g raddoppia la larghezza di banda della rete rispetto al tipo di macchina a3-highgpu-8g.
Ottimizzazioni della virtualizzazione: la topologia PCIe (Peripheral Component Interconnect) delle VM A3 fornisce informazioni più accurate sulle località che i carichi di lavoro possono utilizzare per ottimizzare i trasferimenti di dati.

Le GPU NVIDIA H100 espongono inoltre il ripristino del livello di funzione (FLR) per il recupero garantito da errori e il supporto delle operazioni atomiche per miglioramenti della contemporaneità in determinati scenari.
Spazio di archiviazione: 6000 GiB di SSD locale vengono aggiunti automaticamente alle VM create utilizzando il tipo di macchina A3. L'SSD locale può essere utilizzato per dischi temporanei o per inserire dati nelle GPU evitando al contempo colli di bottiglia di I/O.

È inoltre possibile collegare fino a 257 TiB di spazio di archiviazione su Persistent Disk ai tipi di macchine di questa serie per le applicazioni che richiedono prestazioni di archiviazione più elevate.
Supporto per i criteri di posizionamento compatti: offrono un maggiore controllo sul posizionamento fisico delle VM all'interno dei data center. Ciò consente una latenza inferiore e una maggiore larghezza di banda per il posizionamento delle VM all'interno di una singola zona di disponibilità. Il criterio di posizionamento compatto supporta fino a 96 VM in un sottoinsieme a bassa latenza della rete, all'interno di una determinata zona.

Tipi di disco supportati per A3

Le VM A3 possono utilizzare i seguenti tipi di archiviazione a blocchi:

Disco permanente bilanciato (pd-balanced)
Persistent Disk SSD (prestazioni) (pd-ssd)
Hyperdisk Extreme (hyperdisk-extreme)
Velocità effettiva Hyperdisk (hyperdisk-throughput)
SSD locale: viene aggiunto automaticamente alle VM create utilizzando il tipo di macchina A3

Limiti relativi a disco e capacità

Puoi utilizzare una combinazione di volumi Persistent Disk e Hyperdisk con una VM, ma si applicano le seguenti restrizioni:

Il numero combinato di volumi Hyperdisk e di Persistent Disk non può superare i 128 per VM.
Per i tipi di macchina con 32 o più vCPU, la capacità totale massima del disco (in TiB) su tutti i tipi di disco non può superare quanto segue:
- 512 TiB per tutti gli Hyperdisk
- 512 TiB per una combinazione di Hyperdisk e Persistent Disk
- 257 TiB per tutto il Persistent Disk

Per maggiori dettagli sui limiti di capacità, consulta Limiti di capacità di Hyperdisk per VM e Capacità massima di Persistent Disk.

Tipo di macchina A3 Mega

Tipi di macchina	Conteggio GPU	Conteggio vCPU^*	Memoria VM (GB)	Numero massimo di dischi per VM, su tutti i dischi^†	Volumi Hyperdisk totali massimi per VM	SSD locale collegato (GiB)	Larghezza di banda di rete massima (Gbps)^‡
							VM	Cluster GPU
`a3-megagpu-8g`	8	208	1.872	128	Velocità effettiva Hyperdisk—64 Hyperdisk Extreme—8	6000	200	1.600

^* Una vCPU è implementata come un singolo hyperthread hardware su una delle piattaforme CPU disponibili.
^†L'utilizzo di hyperdisk e Persistent Disk è addebitato separatamente dai prezzi per i tipi di macchina.
^‡La larghezza di banda in uscita massima non può superare il numero specificato. La larghezza di banda in uscita effettiva dipende dall'indirizzo IP di destinazione e da altri fattori. Vedi Larghezza di banda di rete.
^#Per la velocità effettiva Hyperdisk, la dimensione massima per volume è di 32 TiB. Per tutti gli altri volumi di Persistent Disk o Hyperdisk, la dimensione massima è 64 TiB.

Tipo di macchina standard A3

Tipi di macchina	Conteggio GPU	Conteggio vCPU^*	Memoria VM (GB)	Numero massimo di dischi per VM, su tutti i dischi^†	Volumi Hyperdisk totali massimi per VM	SSD locale collegato (GiB)	Larghezza di banda di rete massima (Gbps)^‡
`a3-highgpu-8g`	8	208	1.872	128	Velocità effettiva Hyperdisk—64 Hyperdisk Extreme—8	6000	200	800

Limitazioni di A3

Le seguenti limitazioni si applicano alle VM che utilizzano i tipi di macchina A3 Standard e A3 Mega:

Non ricevi sconti per utilizzo sostenuto e sconti per impegno di utilizzo flessibili per le VM che utilizzano tipi di macchine A3.
Puoi utilizzare tipi di macchine A3 solo in determinate regioni e zone.
Non puoi utilizzare dischi permanenti a livello di regione sulle VM che utilizzano tipi di macchine A3.
Il tipo di macchina A3 è disponibile solo sulla piattaforma Sapphire Rapids.
Se la tua VM utilizza un tipo di macchina A3, non puoi cambiare il tipo di macchina. Se devi modificare il tipo di macchina, devi creare una nuova VM.
Non puoi cambiare il tipo di macchina di una VM in un tipo di macchina A3. Se hai bisogno di una VM che utilizza un tipo di macchina A3, devi crearne una nuova.
I tipi di macchina A3 non supportano la single-tenancy.
Non puoi eseguire i sistemi operativi Windows sui tipi di macchina A3.
Non puoi eseguire carichi di lavoro sulle VM A3 Standard e A3 Mega perché utilizzano uno stack di rete diverso.

La serie di macchine A2

La serie di macchine A2 è disponibile nei tipi di macchina A2 Standard e A2 Ultra. Questi tipi di macchina hanno da 12 a 96 vCPU e fino a 1.360 GB di memoria.

La serie di macchine A2 offre inoltre le seguenti caratteristiche:

GPU NVIDIA A100 collegate: ogni tipo di macchina A2 ha GPU NVIDIA A100. Questi sono disponibili nelle opzioni A100 da 40 GB e A100 da 80 GB.
Scalabilità NVLink leader del settore che fornisce una larghezza di banda di 600 GBps per NVLink GPU per picchi di 600 GB. Ad esempio, i sistemi con 16 GPU hanno una larghezza di banda aggregata di NVLink fino a 9,6 TBps. Queste 16 GPU possono essere utilizzate come singolo acceleratore ad alte prestazioni con spazio di memoria unificato per fornire fino a 10 petaFLOPS di potenza di calcolo e fino a 20 petaFLOPS di potenza di calcolo di inferenza utilizzabili per carichi di lavoro di intelligenza artificiale, deep learning e machine learning.
Velocità di computing migliorata: le GPU NVIDIA A100 collegate offrono miglioramenti della velocità di calcolo fino a 10 volte superiori rispetto alle GPU NVIDIA V100 della generazione precedente.

Con la serie di macchine A2, puoi ottenere una larghezza di banda di rete fino a 100 Gbit/s.
Archiviazione: per i dischi temporanei veloci o per l'inserimento di dati nelle GPU evitando colli di bottiglia di I/O, i tipi di macchina A2 supportano l'SSD locale nel modo seguente:
- Per i tipi di macchina A2 Standard, puoi aggiungere fino a 3000 GiB di SSD locale.
- Per i tipi di macchine A2 Ultra, l'SSD locale viene collegato automaticamente quando crei la VM.
Puoi inoltre collegare fino a 257 TiB di spazio di archiviazione su Persistent Disk alle VM A2 per le applicazioni che richiedono queste prestazioni di archiviazione più elevate.
Supporto per i criteri di posizionamento compatti: offrono un maggiore controllo sul posizionamento fisico delle VM all'interno dei data center. Ciò consente una latenza inferiore e una maggiore larghezza di banda per il posizionamento delle VM all'interno di una singola zona di disponibilità. Per maggiori informazioni, consulta Ridurre la latenza utilizzando i criteri di posizionamento compatto.

Tipi di disco supportati per A2

Le VM A2 possono utilizzare i seguenti tipi di archiviazione a blocchi:

Disco permanente bilanciato (pd-balanced)
Persistent Disk SSD (prestazioni) (pd-ssd)
Disco permanente standard (pd-standard)
SSD locale: che viene collegato automaticamente alle VM create utilizzando i tipi di macchine A2 Ultra.

Tipi di macchine A2 Ultra

Questi tipi di macchine hanno un numero fisso di GPU A100 da 80 GB. L'SSD locale viene collegato automaticamente alle VM create utilizzando i tipi di macchine A2 Ultra.

Tipi di macchina	Conteggio GPU	vCPU^*	Memoria VM (GB)	Numero massimo di Persistent Disk permanenti^†	Persistent Disk (TiB) totale massimo	SSD locale collegato (GiB)	Larghezza di banda massima in uscita (Gbps)^‡
`a2-ultragpu-1g`	1	12	170	128	257	375	24
`a2-ultragpu-2g`	2	24	340	128	257	750	32
`a2-ultragpu-4g`	4	48	680	128	257	1500	50
`a2-ultragpu-8g`	8	96	1360	128	257	3000	100

Limitazioni di A2 Ultra

Non ricevi sconti per utilizzo sostenuto e sconti per impegno di utilizzo flessibili per le VM che utilizzano tipi di macchine A2 Ultra.
Puoi utilizzare i tipi di macchine A2 Ultra solo in determinate regioni e zone.
Non puoi utilizzare dischi permanenti a livello di regione sulle VM che utilizzano tipi di macchine A2 Ultra.
Il tipo di macchina A2 Ultra è disponibile solo sulla piattaforma Cascade Lake.
Se la tua VM utilizza un tipo di macchina A2 Ultra, non puoi cambiare il tipo di macchina. Se devi utilizzare un tipo di macchina A2 Ultra diverso o qualsiasi altro tipo di macchina, devi creare una nuova VM.
Non puoi cambiare nessun altro tipo di macchina in un tipo di macchina A2 Ultra. Se hai bisogno di una VM che utilizza un tipo di macchina A2 Ultra, devi crearne una nuova.
Non è possibile formattare rapidamente le unità SSD locali collegate sulle VM Windows che utilizzano tipi di macchine A2 Ultra. Per formattare questi SSD locali, devi eseguire un formato completo utilizzando l'utilità diskpart e specificando format fs=ntfs label=tmpfs.

Tipi di macchina standard A2

Questi tipi di macchine hanno un numero fisso di GPU A100 da 40 GB.

Tipi di macchina	Conteggio GPU	vCPU^*	Memoria VM (GB)	Numero massimo di Persistent Disk permanenti^†	Persistent Disk (TiB) totale massimo	SSD locale supportato	Larghezza di banda massima in uscita (Gbps)^‡
`a2-highgpu-1g`	1	12	85	128	257	Sì	24
`a2-highgpu-2g`	2	24	170	128	257	Sì	32
`a2-highgpu-4g`	4	48	340	128	257	Sì	50
`a2-highgpu-8g`	8	96	680	128	257	Sì	100
`a2-megagpu-16g`	16	96	1.360	128	257	Sì	100

Limitazioni dello standard A2

Non ricevi sconti per utilizzo sostenuto e sconti per impegno di utilizzo flessibili per le VM che utilizzano tipi di macchine A2 Standard.
Puoi utilizzare i tipi di macchine A2 Standard solo in determinate regioni e zone.
Non puoi utilizzare dischi permanenti a livello di regione sulle VM che utilizzano tipi di macchine standard A2.
Il tipo di macchina A2 Standard è disponibile solo sulla piattaforma Cascade Lake.
Se la tua VM utilizza un tipo di macchina A2 Standard, puoi passare solo da un tipo di macchina A2 Standard a un altro. Non puoi passare a qualsiasi altro tipo di macchina. Per maggiori informazioni, consulta Modificare le VM ottimizzate per l'acceleratore.
Non puoi utilizzare il sistema operativo Windows con i tipi di macchina <codea2-megagpu-16g< code="" dir="ltr" translate="no"> A2 Standard. Se utilizzi sistemi operativi Windows, scegli un tipo di macchina A2 Standard diverso.</codea2-megagpu-16g<>
Non è possibile formattare rapidamente le unità SSD locali collegate sulle VM Windows che utilizzano tipi di macchine A2 Standard. Per formattare questi SSD locali, devi eseguire un formato completo utilizzando l'utilità diskpart e specificando format fs=ntfs label=tmpfs.
I tipi di macchina A2 standard non supportano la single-tenancy.

La serie di macchine G2

La serie di macchine G2 è disponibile in tipi di macchine standard con da 4 a 96 vCPU e fino a 432 GB di memoria. Questa serie di macchine è ottimizzata per carichi di lavoro di inferenza e grafica.

La serie di macchine G2 offre inoltre le seguenti caratteristiche:

GPU NVIDIA collegate: ogni tipo di macchina G2 ha GPU NVIDIA L4.
Velocità di inferenza migliorate: i tipi di macchine G2 forniscono il supporto per il tipo di dati FP8 (in virgola mobile a 8 bit), che accelera le percentuali di inferenza ML e riduce i requisiti di memoria.
Prestazioni grafiche di nuova generazione: le GPU NVIDIA L4 forniscono un miglioramento fino a 3 volte delle prestazioni grafiche grazie all'utilizzo di core RT di terza generazione e della tecnologia NVIDIA DLSS 3 (Deep Learning Super Sampling).
Larghezza di banda di rete ad alte prestazioni: con la serie di macchine G2 puoi ottenere fino a 100 Gbit/s di larghezza di banda di rete.
Spazio di archiviazione: puoi aggiungere fino a 3000 GiB di SSD locali alle VM G2. Può essere utilizzata per dischi temporanei veloci o per l'inserimento di dati nelle GPU evitando al contempo colli di bottiglia di I/O.

Puoi anche collegare volumi Hyperdisk e Persistent Disk alle VM G2 per le applicazioni che richiedono un'archiviazione più permanente. La capacità di archiviazione massima dipende dal numero di vCPU di cui dispone la VM. Per maggiori dettagli, vedi Tipi di disco supportati.
Supporto per i criteri di posizionamento compatti: offrono un maggiore controllo sul posizionamento fisico delle VM all'interno dei data center. Ciò consente una latenza inferiore e una maggiore larghezza di banda per il posizionamento delle VM all'interno di una singola zona di disponibilità. Per maggiori informazioni, consulta Ridurre la latenza utilizzando i criteri di posizionamento compatto.

Tipi di disco supportati per G2

Le VM G2 possono utilizzare i seguenti tipi di archiviazione a blocchi:

Disco permanente bilanciato (pd-balanced)
Persistent Disk SSD (prestazioni) (pd-ssd)
Velocità effettiva Hyperdisk (hyperdisk-throughput)
SSD locale