Mantieni tutto organizzato con le raccolte Salva e classifica i contenuti in base alle tue preferenze.
Vai a

Dataproc

Dataproc è un servizio completamente gestito e a scalabilità elevata per l'esecuzione di Apache Hadoop, Apache Spark, Apache Flink, Presto e oltre 30 strumenti e framework open source. Utilizza Dataproc per la modernizzazione dei data lake, l'ETL e attività di data science sicure su scala mondiale, completamente integrati con Google Cloud a un costo molto inferiore.

  • Aperto: esegui analisi dei dati open source su larga scala, con sicurezza di livello aziendale

  • Flessibile: utilizza il serverless o gestisci i cluster su Google Compute e Kubernetes 

  • Intelligente: abilita gli utenti dei dati tramite le integrazioni con Vertex AI, BigQuery e Dataplex 

  • Sicuro: configura sicurezza avanzata come Kerberos, Apache Ranger e Autenticazione personale

  • Conveniente: ottieni una riduzione del TCO del 54% rispetto ai data lake on-premise con prezzi al secondo

Vantaggi

Modernizza l'elaborazione dei dati open source

Che tu abbia bisogno di VM o Kubernetes, di memoria extra per Presto o di GPU, Dataproc permette di velocizzare l'elaborazione di dati e analisi attraverso ambienti on demand appositamente creati o serverless.

Software open source intelligente e senza interruzioni per data science

Consenti ai data scientist e agli analisti di dati di eseguire senza interruzioni job di data science tramite integrazioni native con BigQuery, Dataplex e Vertex AI.

Sicurezza, conformità e governance avanzate

Applica controlli dell'accesso granulari a livello di riga e colonna con Dataproc, BigLake e Dataplex. Gestisci e applica autorizzazione e autenticazione degli utenti utilizzando i criteri esistenti di KerberosRanger di Apache

Funzionalità principali

Funzionalità principali

Software open source per i big data completamente gestiti e automatizzati

Il logging, il monitoraggio e il deployment serverless ti consentono di concentrarti sui dati e analisi, anziché sull'infrastruttura. Riduci il TCO della gestione di Apache Spark fino al 54%- Consenti ai data scientist e ai data engineer di creare e addestrare modelli 5 volte più velocemente rispetto ai blocchi note tradizionali, grazie all'integrazione con Vertex AI Workbench. L'API Dataproc Jobs facilita l'integrazione dell'elaborazione di big data in applicazioni personalizzate, mentre Dataproc Metastore elimina la necessità di eseguire il tuo metastore Hive o il servizio catalogo.

Containerizzazione dei job Apache Spark con Kubernetes

Crea i tuoi job Apache Spark utilizzando Dataproc su Kubernetes in modo da poter utilizzare Dataproc con Google Kubernetes Engine (GKE) per offrire portabilità e isolamento dei job.

Sicurezza aziendale integrata con Google Cloud

Quando crei un cluster Dataproc, puoi abilitare la modalità protetta di Hadoop tramite Kerberos per mezzo dell'aggiunta di una configurazione di sicurezza. Inoltre, alcune delle funzionalità di sicurezza specifiche di Google Cloud utilizzate più comunemente con Dataproc sono la crittografia predefinita dei dati inattivi, il servizio OS Login, i Controlli di servizio VPC e le chiavi di crittografia gestite dal cliente (CMEK).

Il meglio dell'open source con il meglio di Google Cloud

Dataproc ti consente di utilizzare gli strumenti open source, gli algoritmi e i linguaggi di programmazione che utilizzi attualmente, semplificandone l'applicazione su set di dati su scala cloud. Allo stesso tempo, Dataproc offre integrazione immediata con il resto dell'ecosistema di analisi, database e AI di Google Cloud. I data scientist e i data engineer possono accedere rapidamente ai dati e creare applicazioni di dati che collegano Dataproc a BigQuery, Vertex AI, Cloud Spanner, Pub/Sub o Data Fusion

Visualizza tutte le funzionalità

Novità

Novità

Spark serverless è ora disponibile pubblicamente. Registrati per l'anteprima di altri servizi Spark su Google Cloud. 

Documentazione

Documentazione

Nozioni di base su Google Cloud
Spark serverless

Invia job Spark con provisioning automatico e scalabilità automatica. Puoi trovare ulteriori informazioni nel link alla guida rapida qui sotto. 

API e librerie
Azioni di inizializzazione di Dataproc

Aggiungi altri progetti OSS ai tuoi cluster Dataproc con azioni di inizializzazione integrate.

API e librerie
Connettori open source

Librerie e strumenti per l'interoperabilità di Apache Hadoop.

API e librerie
Modelli di flusso di lavoro Dataproc

L'API WorkflowTemplates di Dataproc offre un meccanismo flessibile e facile da usare per la gestione e l'esecuzione dei flussi di lavoro.

Casi d'uso

Casi d'uso

Caso d'uso
Spostamento dei cluster Hadoop e Spark nel cloud

Le aziende eseguono la migrazione dei loro cluster Apache Hadoop e Spark on-premise esistenti su Dataproc per gestire i costi e liberare la potenza della scalabilità elastica. Con Dataproc, le aziende dispongono di un cluster creato appositamente e completamente gestito che può scalare automaticamente per supportare qualsiasi job di elaborazione di dati o analisi. 

Tutte le funzionalità

Tutte le funzionalità

Spark serverless Esegui il deployment di applicazioni e pipeline Spark che scalano automaticamente senza alcun provisioning o ottimizzazione manuale dell'infrastruttura. 
Cluster ridimensionabili Crea e scala i cluster rapidamente con un'ampia gamma di tipi di macchine virtuali, dimensioni dei dischi, opzioni di networking e con il numero di nodi che vuoi tu.
Scalabilità automatica dei cluster La scalabilità automatica di Dataproc offre un meccanismo per automatizzare la gestione delle risorse cluster e permette di aggiungere e sottrarre automaticamente i worker (nodi) del cluster.
Integrazione con Cloud Integrazione perfetta con Cloud Storage, BigQuery, Dataplex, Vertex AI, Composer, Cloud Bigtable, Cloud Logging e Cloud Monitoring, per ottenere una piattaforma dati più completa e robusta.
Controllo delle versioni Il controllo delle versioni delle immagini consente di passare da una versione all'altra di Apache Spark, Apache Hadoop e altri strumenti.
Eliminazione pianificata dei cluster Per evitare di farsi carico del costo di un cluster non attivo, è possibile utilizzare l'eliminazione pianificata di Dataproc, che mette a disposizione opzioni per eliminare un cluster dopo un determinato periodo di inattività, in una determinata data futura oppure dopo un periodo di tempo specificato.
Configurazione automatica o manuale Dataproc configura automaticamente l'hardware e il software, ma consente anche il controllo manuale.
Strumenti per sviluppatori Sono disponibili diversi strumenti per gestire un cluster, tra cui una UI web facile da utilizzare, Cloud SDK, API RESTful e accesso SSH.
Azioni di inizializzazione Esegui azioni di inizializzazione per installare o personalizzare le impostazioni e le librerie necessarie quando viene creato il cluster.
Componenti facoltativi Utilizza i componenti facoltativi per installare e configurare componenti aggiuntivi sul cluster. I componenti facoltativi vengono integrati con i componenti di Dataproc e offrono ambienti completamente configurati per Zeppelin, Presto e altri componenti software open source correlati all'ecosistema Apache Hadoop e Apache Spark.
Container e immagini personalizzati È possibile eseguire il provisioning di Spark serverless Dataproc con container Docker personalizzati. Puoi eseguire il provisioning dei cluster Dataproc con un'immagine personalizzata che include i pacchetti del sistema operativo Linux preinstallati.
Macchine virtuali flessibili I cluster possono utilizzare tipi di macchine personalizzate e macchine virtuali prerilasciabili per ottenere la dimensione perfetta per le proprie esigenze.
Gateway dei componenti e accesso ai blocchi note Il gateway dei componenti di Dataproc consente l'accesso sicuro con un solo clic alle interfacce web dei componenti predefiniti e facoltativi di Dataproc in esecuzione sul cluster.
Modelli di flusso di lavoro I modelli di flusso di lavoro di Dataproc offrono un meccanismo flessibile e facile da usare per la gestione e l'esecuzione dei flussi di lavoro. Un modello di flusso di lavoro è una configurazione del flusso di lavoro riutilizzabile che definisce un grafico di job con informazioni sul punto di esecuzione di questi job. 
Gestione dei criteri automatizzata Standardizza criteri di sicurezza, costi e infrastruttura su un parco risorse di cluster. Puoi creare criteri per la gestione delle risorse, la sicurezza o la rete a livello di progetto. Puoi anche semplificare per gli utenti l'utilizzo di immagini, componenti, metastore e altri servizi periferici corretti, in modo da gestire il tuo parco risorse di cluster e criteri Spark serverless in futuro. 
Avvisi intelligenti Gli avvisi consigliati di Dataproc consentono di regolare le soglie per gli avvisi preconfigurati in modo da ricevere avvisi sui cluster inattivi, in fase di esecuzione, sui job, sui cluster sovrautilizzati e altro ancora. I clienti possono personalizzare ulteriormente questi avvisi e persino creare funzionalità avanzate per la gestione di cluster e job. Queste funzionalità consentono ai clienti di gestire il proprio parco risorse su vasta scala.
Dataproc Metastore Hive Metastore (HMS) completamente gestito e a disponibilità elevata con controllo granulare dell'accesso e integrazione con BigQuery Metastore, Dataplex e Data Catalog.

Prezzi

Prezzi

I prezzi di Dataproc si basano sul numero di vCPU e sul loro tempo di esecuzione. Mentre i prezzi mostrano la tariffa oraria, ti vengono addebitati i costi al secondo, pertanto paghi solo per quello che utilizzi.

Esempio: 6 cluster (1 principale + 5 worker) di 4 CPU ciascuna in esecuzione per 2 ore hanno un costo di 0,48 $.  Costo di Dataproc = numero di vCPU * ore * prezzo Dataproc = 24 * 2 * 0,01 $ = 0,48 $

Consulta la pagina dei prezzi per ulteriori dettagli.

Partner

Partner

Dataproc si integra con partner fondamentali per estendere i tuoi investimenti e livelli di competenza esistenti.