Scopri le best practice degli esperti su archiviazione, sicurezza, query e da intraprendere con i dati. Registrati a Google Next '21.

Vai a

Dataproc

Dataproc è un servizio completamente gestito e a scalabilità elevata per l'esecuzione di Apache Spark, Apache Flink, Presto e oltre 30 strumenti e framework open source. Utilizza Dataproc per la modernizzazione dei data lake, l'ETL e attività di data science sicure su scala mondiale, completamente integrati con Google Cloud a un costo molto inferiore.

  • action/check_circle_24px Creato con Sketch.

    Aperto: crea cluster open source completamente gestiti on demand, integrati con metastore di data lake

  • action/check_circle_24px Creato con Sketch.

    Flessibile: combina software open source e servizi nativi di GCP con strette integrazioni su tutta la piattaforma

  • action/check_circle_24px Creato con Sketch.

    Regolato: abilita attività di data science open source scalabili, sicure e con controllo dei costi con Dataproc Hub

  • action/check_circle_24px Creato con Sketch.

    Sicuro: configura soluzioni di sicurezza avanzata come Kerberos, Apache Ranger e Autenticazione personale

  • action/check_circle_24px Creato con Sketch.

    Conveniente: ottieni una riduzione del TCO del 57% rispetto ai data lake on-premise con prezzi al secondo

Vantaggi

Modernizza l'elaborazione dei dati open source

Che tu abbia bisogno di VM o Kubernetes, di memoria extra per Presto o di GPU, Dataproc permette di velocizzare l'elaborazione di dati e analisi, avviando ambienti on demand creati appositamente.

OSS convenienti e sicuri per data science

Grazie a scalabilità automatica, eliminazione dei cluster inattivi, prezzi al secondo, sicurezza integrata e molto altro, Dataproc Hub consente di scalare in modo conveniente le attività di data science open source, riducendo al minimo i costi di gestione e i rischi legati alla sicurezza.

Sicurezza, conformità e governance avanzate

Gestisci e applica autorizzazione e autenticazione degli utenti utilizzando i criteri esistenti di Kerberos e Ranger di Apache oppure Autenticazione cluster personale. Definisci le autorizzazioni senza dover configurare un nodo di rete.

Funzionalità principali

Funzionalità principali

Software open source per i big data completamente gestiti e automatizzati

Il deployment, il logging e il monitoraggio completamente gestiti ti consentono di concentrarti su dati e analisi, piuttosto che sull'infrastruttura. Riduci il TCO della gestione di Apache Spark fino al 57%. Data scientist e tecnici interagiscono con Dataproc utilizzando strumenti familiari come i blocchi note Jupyter e Zeppelin, che possono essere creati in Dataproc Hub. L'API Dataproc Jobs facilita l'integrazione dell'elaborazione di big data in applicazioni personalizzate, mentre Dataproc Metastore elimina la necessità di eseguire il tuo metastore Hive o il servizio catalogo.

Containerizzazione dei job Apache Spark con Kubernetes

Crea i tuoi job Apache Spark utilizzando Dataproc su Kubernetes in modo da poter utilizzare Dataproc con Google Kubernetes Engine (GKE) per offrire portabilità e isolamento dei job.

Sicurezza aziendale integrata con Google Cloud

Quando crei un cluster Dataproc, puoi abilitare la modalità protetta di Hadoop tramite Kerberos per mezzo dell'aggiunta di una configurazione di sicurezza. Inoltre, alcune delle funzionalità di sicurezza specifiche di Google Cloud utilizzate più comunemente con Dataproc sono la crittografia predefinita dei dati inattivi, il servizio OS Login, i Controlli di servizio VPC e le chiavi di crittografia gestite dal cliente (CMEK).

Il meglio dell'open source con il meglio di Google Cloud

Dataproc ti consente di utilizzare gli strumenti open source, gli algoritmi e i linguaggi di programmazione che utilizzi attualmente, semplificandone l'applicazione su set di dati su scala cloud. Allo stesso tempo, Dataproc offre integrazione immediata con il resto dell'ecosistema di analisi, database e AI di Google Cloud. Data scientist e tecnici possono accedere rapidamente ai dati e creare applicazioni di dati che collegano Dataproc a BigQuery, AI Platform, Cloud Spanner, Pub/Sub o Data Fusion. 

Visualizza tutte le funzionalità

Novità

Novità

Iscriviti alle newsletter di Google Cloud per ricevere aggiornamenti sui prodotti, informazioni sugli eventi, offerte speciali e molto altro.

Documentazione

Documentazione

API e librerie
Azioni di inizializzazione di Dataproc

Aggiungi altri progetti OSS ai tuoi cluster Dataproc con azioni di inizializzazione integrate.

API e librerie
Connettori open source

Librerie e strumenti per l'interoperabilità di Apache Hadoop.

Casi d'uso

Casi d'uso

Caso d'uso
Spostamento dei cluster Hadoop e Spark nel cloud

Le aziende eseguono la migrazione dei loro cluster Apache Hadoop e Spark on-premise esistenti su Dataproc per gestire i costi e liberare la potenza della scalabilità elastica. Con Dataproc, le aziende dispongono di un cluster creato appositamente e completamente gestito che può scalare automaticamente per supportare qualsiasi job di elaborazione di dati o analisi. 

Tutte le funzionalità

Tutte le funzionalità

Cluster ridimensionabili Crea e scala i cluster rapidamente con un'ampia gamma di tipi di macchine virtuali, dimensioni dei dischi, opzioni di networking e con il numero di nodi che vuoi tu.
Scalabilità automatica dei cluster La scalabilità automatica di Dataproc offre un meccanismo per automatizzare la gestione delle risorse cluster e permette di aggiungere e sottrarre automaticamente i worker (nodi) del cluster.
Integrazione con Cloud Integrazione perfetta con Cloud Storage, BigQuery, Cloud Bigtable, Cloud Logging, Cloud Monitoring e AI Hub, per offrirti una piattaforma dati più completa e robusta.
Controllo delle versioni Il controllo delle versioni delle immagini consente di passare da una versione all'altra di Apache Spark, Apache Hadoop e altri strumenti.
Disponibilità elevata Esegui i cluster nella modalità a disponibilità elevata con più nodi master e imposta i job in modo che si riavviino in caso di errore per garantire la disponibilità elevata di cluster e job.
Eliminazione pianificata dei cluster Per evitare di farsi carico del costo di un cluster non attivo, è possibile utilizzare l'eliminazione pianificata di Dataproc, che mette a disposizione opzioni per eliminare un cluster dopo un determinato periodo di inattività, in una determinata data futura oppure dopo un periodo di tempo specificato.
Configurazione automatica o manuale Dataproc configura automaticamente l'hardware e il software, ma consente anche il controllo manuale.
Strumenti per sviluppatori Sono disponibili diversi strumenti per gestire un cluster, tra cui una UI web facile da utilizzare, Cloud SDK, API RESTful e accesso SSH.
Azioni di inizializzazione Esegui azioni di inizializzazione per installare o personalizzare le impostazioni e le librerie necessarie quando viene creato il cluster.
Componenti facoltativi Utilizza i componenti facoltativi per installare e configurare componenti aggiuntivi sul cluster. I componenti facoltativi vengono integrati con i componenti di Dataproc e offrono ambienti completamente configurati per Zeppelin, Druid, Presto e altri componenti software open source correlati all'ecosistema Apache Hadoop e Apache Spark.
Immagini personalizzate Puoi eseguire il provisioning dei cluster Dataproc con un'immagine personalizzata che include i pacchetti del sistema operativo Linux preinstallati.
Macchine virtuali flessibili I cluster possono utilizzare tipi di macchine personalizzate e macchine virtuali prerilasciabili per ottenere la dimensione perfetta per le proprie esigenze.
Gateway dei componenti e accesso ai blocchi note Il gateway dei componenti di Dataproc consente l'accesso sicuro con un solo clic alle interfacce web dei componenti predefiniti e facoltativi di Dataproc in esecuzione sul cluster.
Modelli di flusso di lavoro I modelli di flusso di lavoro di Dataproc offrono un meccanismo flessibile e facile da usare per la gestione e l'esecuzione dei flussi di lavoro. Un modello di flusso di lavoro è una configurazione del flusso di lavoro riutilizzabile che definisce un grafico di job con informazioni sul punto di esecuzione di questi job.

Prezzi

Prezzi

I prezzi di Dataproc si basano sul numero di vCPU e sul loro tempo di esecuzione. Mentre i prezzi mostrano la tariffa oraria, ti vengono addebitati i costi al secondo, pertanto paghi solo per quello che utilizzi.

Esempio: 6 cluster (1 master + 5 worker) di 4 CPU ciascuna in esecuzione per 2 ore hanno un costo di 0,48 $.  Costo di Dataproc = # di vCPU * ore * prezzo Dataproc = 24 * 2 * 0,01 $ = 0,48 $

Consulta la pagina dei prezzi per ulteriori dettagli.

Partner

Partner

Dataproc si integra con partner fondamentali per estendere i tuoi investimenti e livelli di competenza esistenti.