Questa pagina fornisce informazioni di base sul funzionamento delle GPU con Dataflow, comprese informazioni sui prerequisiti e sui tipi di GPU supportati.
L'uso delle GPU nei job Dataflow consente di accelerare alcune attività di elaborazione dati. Le GPU possono eseguire determinati calcoli più velocemente delle CPU. Questi calcoli sono di solito algebra numerica o lineare, spesso utilizzati nell'elaborazione di immagini e nel machine learning. L'entità del miglioramento delle prestazioni varia in base al caso d'uso, al tipo di calcolo e alla quantità di dati elaborati.
Prerequisiti per l'utilizzo delle GPU in Dataflow
- Per utilizzare le GPU con il job Dataflow, devi usare Runner v2.
- Dataflow esegue il codice utente in VM worker all'interno di un container Docker.
Queste VM worker eseguono Container-Optimized OS.
Affinché i job Dataflow utilizzino le GPU, sono necessari i seguenti prerequisiti:
- I driver GPU vengono installati sulle VM worker e sono accessibili al container Docker. Per maggiori informazioni, consulta Installare i driver GPU.
- Le librerie GPU richieste dalla pipeline, come le librerie NVIDIA CUDA-X o il toolkit NVIDIA CUDA, sono installate nell'immagine container personalizzata. Per maggiori informazioni, consulta Configurare l'immagine container.
- Poiché i container GPU sono in genere di grandi dimensioni, per evitare di esaurire lo spazio su disco, aumenta la dimensione predefinita del disco di avvio a 50 gigabyte o più.
Prezzi
I job che utilizzano GPU sono soggetti ad addebiti come specificato nella pagina dei prezzi di Dataflow.
Disponibilità
Con Dataflow sono supportati i seguenti tipi di GPU:
| Tipo di GPU | Stringa worker_accelerator |
|---|---|
| NVIDIA® L4 | nvidia-l4 |
| NVIDIA® A100 da 40 GB | nvidia-tesla-a100 |
| NVIDIA® A100 da 80 GB | nvidia-a100-80gb |
| NVIDIA® Tesla® T4 | nvidia-tesla-t4 |
| NVIDIA® Tesla® P4 | nvidia-tesla-p4 |
| NVIDIA® Tesla® V100 | nvidia-tesla-v100 |
| NVIDIA® Tesla® P100 | nvidia-tesla-p100 |
Per ulteriori informazioni su ogni tipo di GPU, inclusi i dati sulle prestazioni, consulta Piattaforme GPU di Compute Engine.
Per informazioni sulle regioni e sulle zone disponibili per le GPU, consulta Disponibilità di regioni e zone delle GPU nella documentazione di Compute Engine.
Carichi di lavoro consigliati
La tabella seguente fornisce suggerimenti sul tipo di GPU da utilizzare per diversi carichi di lavoro. Gli esempi nella tabella sono solo suggerimenti e devi eseguire i test nel tuo ambiente per determinare il tipo di GPU appropriato per il carico di lavoro.
Per informazioni più dettagliate su dimensioni della memoria GPU, disponibilità delle funzionalità e tipi di carichi di lavoro ideali per diversi modelli di GPU, consulta il grafico di confronto generale nella pagina delle piattaforme GPU.
| Carico di lavoro | A100 | L4 | T4 |
|---|---|---|---|
| Ottimizzazione del modello | Opzione consigliata | ||
| Inferenza del modello di grandi dimensioni | Opzione consigliata | Opzione consigliata | |
| Inferenza del modello medio | Opzione consigliata | Opzione consigliata | |
| Inferenza del modello piccolo | Opzione consigliata | Opzione consigliata |
Passaggi successivi
- Vedi un esempio di flusso di lavoro per sviluppatori per la creazione di pipeline che utilizzano GPU.
- Scopri come eseguire una pipeline Apache Beam su Dataflow con GPU.
- Scopri l'elaborazione delle immagini satellitari Landsat con le GPU.