Dataproc
Dataproc è un servizio completamente gestito e a scalabilità elevata per l'esecuzione di Apache Hadoop, Apache Spark, Apache Flink, Presto e oltre 30 strumenti e framework open source. Utilizza Dataproc per la modernizzazione dei data lake, l'ETL e attività di data science sicure su scala mondiale, completamente integrati con Google Cloud a un costo molto inferiore.
-
Aperto: esegui analisi dei dati open source su larga scala, con sicurezza di livello aziendale
-
Flessibile: utilizza il serverless o gestisci i cluster su Google Compute e Kubernetes
-
Intelligente: abilita gli utenti dei dati tramite le integrazioni con Vertex AI, BigQuery e Dataplex
-
Sicuro: configura sicurezza avanzata come Kerberos, Apache Ranger e Autenticazione personale
-
Conveniente: ottieni una riduzione del TCO del 54% rispetto ai data lake on-premise con prezzi al secondo
Vantaggi
Modernizza l'elaborazione dei dati open source
Che tu abbia bisogno di VM o Kubernetes, di memoria extra per Presto o di GPU, Dataproc permette di velocizzare l'elaborazione di dati e analisi attraverso ambienti on demand appositamente creati o serverless.
Sicurezza, conformità e governance avanzate
Applica controlli dell'accesso granulari a livello di riga e colonna con Dataproc, BigLake e Dataplex. Gestisci e applica autorizzazione e autenticazione degli utenti utilizzando i criteri esistenti di Kerberos e Ranger di Apache.
Funzionalità principali
Funzionalità principali
Software open source per i big data completamente gestiti e automatizzati
Il logging, il monitoraggio e il deployment serverless ti consentono di concentrarti sui dati e analisi, anziché sull'infrastruttura. Riduci il TCO della gestione di Apache Spark fino al 54%- Consenti ai data scientist e ai data engineer di creare e addestrare modelli 5 volte più velocemente rispetto ai blocchi note tradizionali, grazie all'integrazione con Vertex AI Workbench. L'API Dataproc Jobs facilita l'integrazione dell'elaborazione di big data in applicazioni personalizzate, mentre Dataproc Metastore elimina la necessità di eseguire il tuo metastore Hive o il servizio catalogo.
Containerizzazione dei job Apache Spark con Kubernetes
Crea i tuoi job Apache Spark utilizzando Dataproc su Kubernetes in modo da poter utilizzare Dataproc con Google Kubernetes Engine (GKE) per offrire portabilità e isolamento dei job.
Sicurezza aziendale integrata con Google Cloud
Quando crei un cluster Dataproc, puoi abilitare la modalità protetta di Hadoop tramite Kerberos per mezzo dell'aggiunta di una configurazione di sicurezza. Inoltre, alcune delle funzionalità di sicurezza specifiche di Google Cloud utilizzate più comunemente con Dataproc sono la crittografia predefinita dei dati inattivi, il servizio OS Login, i Controlli di servizio VPC e le chiavi di crittografia gestite dal cliente (CMEK).
Il meglio dell'open source con il meglio di Google Cloud
Dataproc ti consente di utilizzare gli strumenti open source, gli algoritmi e i linguaggi di programmazione che utilizzi attualmente, semplificandone l'applicazione su set di dati su scala cloud. Allo stesso tempo, Dataproc offre integrazione immediata con il resto dell'ecosistema di analisi, database e AI di Google Cloud. I data scientist e i data engineer possono accedere rapidamente ai dati e creare applicazioni di dati che collegano Dataproc a BigQuery, Vertex AI, Cloud Spanner, Pub/Sub o Data Fusion.
Clienti
Impara dai clienti che utilizzano Dataproc
Novità
Novità
Spark serverless è ora disponibile pubblicamente. Registrati per l'anteprima di altri servizi Spark su Google Cloud.
Documentazione
Documentazione
Spark serverless
Invia job Spark con provisioning automatico e scalabilità automatica. Puoi trovare ulteriori informazioni nel link alla guida rapida qui sotto.
Azioni di inizializzazione di Dataproc
Aggiungi altri progetti OSS ai tuoi cluster Dataproc con azioni di inizializzazione integrate.
Connettori open source
Librerie e strumenti per l'interoperabilità di Apache Hadoop.
Modelli di flusso di lavoro Dataproc
L'API WorkflowTemplates di Dataproc offre un meccanismo flessibile e facile da usare per la gestione e l'esecuzione dei flussi di lavoro.
Casi d'uso
Casi d'uso
Le aziende eseguono la migrazione dei loro cluster Apache Hadoop e Spark on-premise esistenti su Dataproc per gestire i costi e liberare la potenza della scalabilità elastica. Con Dataproc, le aziende dispongono di un cluster creato appositamente e completamente gestito che può scalare automaticamente per supportare qualsiasi job di elaborazione di dati o analisi.
Crea il tuo ambiente di data science ideale avviando un cluster Dataproc creato appositamente. Integra i software open source come i blocchi note Apache Spark, NVIDIA RAPIDS e Jupyter con i servizi AI e le GPU di Google Cloud per accelerare lo sviluppo del machine learning e dell'AI.
Tutte le funzionalità
Tutte le funzionalità
| Spark serverless | Esegui il deployment di applicazioni e pipeline Spark che scalano automaticamente senza alcun provisioning o ottimizzazione manuale dell'infrastruttura. |
| Cluster ridimensionabili | Crea e scala i cluster rapidamente con un'ampia gamma di tipi di macchine virtuali, dimensioni dei dischi, opzioni di networking e con il numero di nodi che vuoi tu. |
| Scalabilità automatica dei cluster | La scalabilità automatica di Dataproc offre un meccanismo per automatizzare la gestione delle risorse cluster e permette di aggiungere e sottrarre automaticamente i worker (nodi) del cluster. |
| Integrazione con Cloud | Integrazione perfetta con Cloud Storage, BigQuery, Dataplex, Vertex AI, Composer, Cloud Bigtable, Cloud Logging e Cloud Monitoring, per ottenere una piattaforma dati più completa e robusta. |
| Controllo delle versioni | Il controllo delle versioni delle immagini consente di passare da una versione all'altra di Apache Spark, Apache Hadoop e altri strumenti. |
| Eliminazione pianificata dei cluster | Per evitare di farsi carico del costo di un cluster non attivo, è possibile utilizzare l'eliminazione pianificata di Dataproc, che mette a disposizione opzioni per eliminare un cluster dopo un determinato periodo di inattività, in una determinata data futura oppure dopo un periodo di tempo specificato. |
| Configurazione automatica o manuale | Dataproc configura automaticamente l'hardware e il software, ma consente anche il controllo manuale. |
| Strumenti per sviluppatori | Sono disponibili diversi strumenti per gestire un cluster, tra cui una UI web facile da utilizzare, Cloud SDK, API RESTful e accesso SSH. |
| Azioni di inizializzazione | Esegui azioni di inizializzazione per installare o personalizzare le impostazioni e le librerie necessarie quando viene creato il cluster. |
| Componenti facoltativi | Utilizza i componenti facoltativi per installare e configurare componenti aggiuntivi sul cluster. I componenti facoltativi vengono integrati con i componenti di Dataproc e offrono ambienti completamente configurati per Zeppelin, Presto e altri componenti software open source correlati all'ecosistema Apache Hadoop e Apache Spark. |
| Container e immagini personalizzati | È possibile eseguire il provisioning di Spark serverless Dataproc con container Docker personalizzati. Puoi eseguire il provisioning dei cluster Dataproc con un'immagine personalizzata che include i pacchetti del sistema operativo Linux preinstallati. |
| Macchine virtuali flessibili | I cluster possono utilizzare tipi di macchine personalizzate e macchine virtuali prerilasciabili per ottenere la dimensione perfetta per le proprie esigenze. |
| Gateway dei componenti e accesso ai blocchi note | Il gateway dei componenti di Dataproc consente l'accesso sicuro con un solo clic alle interfacce web dei componenti predefiniti e facoltativi di Dataproc in esecuzione sul cluster. |
| Modelli di flusso di lavoro | I modelli di flusso di lavoro di Dataproc offrono un meccanismo flessibile e facile da usare per la gestione e l'esecuzione dei flussi di lavoro. Un modello di flusso di lavoro è una configurazione del flusso di lavoro riutilizzabile che definisce un grafico di job con informazioni sul punto di esecuzione di questi job. |
| Gestione dei criteri automatizzata | Standardizza criteri di sicurezza, costi e infrastruttura su un parco risorse di cluster. Puoi creare criteri per la gestione delle risorse, la sicurezza o la rete a livello di progetto. Puoi anche semplificare per gli utenti l'utilizzo di immagini, componenti, metastore e altri servizi periferici corretti, in modo da gestire il tuo parco risorse di cluster e criteri Spark serverless in futuro. |
| Avvisi intelligenti | Gli avvisi consigliati di Dataproc consentono di regolare le soglie per gli avvisi preconfigurati in modo da ricevere avvisi sui cluster inattivi, in fase di esecuzione, sui job, sui cluster sovrautilizzati e altro ancora. I clienti possono personalizzare ulteriormente questi avvisi e persino creare funzionalità avanzate per la gestione di cluster e job. Queste funzionalità consentono ai clienti di gestire il proprio parco risorse su vasta scala. |
| Dataproc Metastore | Hive Metastore (HMS) completamente gestito e a disponibilità elevata con controllo granulare dell'accesso e integrazione con BigQuery Metastore, Dataplex e Data Catalog. |
Prezzi
Prezzi
I prezzi di Dataproc si basano sul numero di vCPU e sul loro tempo di esecuzione. Mentre i prezzi mostrano la tariffa oraria, ti vengono addebitati i costi al secondo, pertanto paghi solo per quello che utilizzi.
Esempio: 6 cluster (1 principale + 5 worker) di 4 CPU ciascuna in esecuzione per 2 ore hanno un costo di 0,48 $. Costo di Dataproc = numero di vCPU * ore * prezzo Dataproc = 24 * 2 * 0,01 $ = 0,48 $
Consulta la pagina dei prezzi per ulteriori dettagli.
Partner
Partner
Dataproc si integra con partner fondamentali per estendere i tuoi investimenti e livelli di competenza esistenti.
