Modello di analisi ibrida e multi-cloud

Last reviewed 2024-11-27 UTC

Questo documento illustra che lo scopo del pattern di analisi ibrido e multicloud è sfruttare la suddivisione tra carichi di lavoro transazionali e di analisi.

Nei sistemi aziendali, la maggior parte dei carichi di lavoro rientra in queste categorie:

  • I workload transazionali includono applicazioni interattive come vendite, elaborazione finanziaria, pianificazione delle risorse aziendali o comunicazione.
  • I carichi di lavoro di analisi includono applicazioni che trasformano, analizzano, perfezionano o visualizzano i dati per supportare i processi decisionali.

I sistemi di analisi ottengono i dati dai sistemi transazionali tramite query sulle API o accedendo ai database. Nella maggior parte delle aziende, i sistemi di analisi e transazionali tendono ad essere separati e a basso accoppiamento. Lo scopo del pattern analytics ibrido e multi-cloud è sfruttare questa suddivisione preesistente eseguendo carichi di lavoro transazionali e di analisi in due ambienti di calcolo diversi. I dati non elaborati vengono prima estratti dai workload in esecuzione nell'ambiente di calcolo privato e poi caricati inGoogle Cloud, dove vengono utilizzati per l'elaborazione analitica. Alcuni risultati potrebbero poi essere ritrasmessi ai sistemi transazionali.

Il seguente diagramma illustra architetture concettualmente possibili mostrando potenziali pipeline di dati. Ogni percorso/freccia rappresenta una possibile opzione di pipeline di spostamento e trasformazione dei dati che può essere basata su ETL o ELT, a seconda della qualità dei dati disponibile e del caso d'uso target.

Per spostare i tuoi dati in Google Cloud e sbloccarne il valore, utilizza i servizi di spostamento dei dati, una suite completa di servizi di importazione, integrazione e replica dei dati.

I dati che fluiscono da un ambiente on-premise o di altro cloud in Google Cloud, tramite importazione, pipeline, archiviazione, analisi, nel livello di applicazione e presentazione.

Come mostrato nel diagramma precedente, la connessione di Google Cloud con ambienti on-premise e altri ambienti cloud può abilitare vari casi d'uso di analisi dei dati, come lo streaming di dati e i backup del database. Per supportare il trasporto di base di un pattern di analisi ibrida e multicloud che richiede un elevato volume di trasferimento di dati, Cloud Interconnect e Cross-Cloud Interconnect forniscono connettività dedicata ai provider cloud on-premise e di altro tipo.

Vantaggi

L'esecuzione di carichi di lavoro di analisi nel cloud presenta diversi vantaggi chiave:

  • Il traffico in entrata, ovvero il trasferimento di dati dal tuo ambiente di calcolo privato o da altri cloud aGoogle Cloud, potrebbe essere senza costi.
  • I carichi di lavoro di analisi devono spesso elaborare quantità considerevoli di dati e possono essere intermittenti, pertanto sono particolarmente adatti per essere implementati in un ambiente cloud pubblico. Se esegui la scalabilità dinamica delle risorse di calcolo, puoi elaborare rapidamente set di dati di grandi dimensioni evitando investimenti iniziali o dover eseguire il provisioning eccessivo delle apparecchiature di calcolo.
  • Google Cloud offre un ampio insieme di servizi per gestire i dati throughout its entire lifecycle, dall'acquisizione iniziale all'elaborazione e all'analisi fino alla visualizzazione finale.
    • I servizi di spostamento dei dati su Google Cloud forniscono una suite completa di prodotti per spostare, integrare e trasformare i dati in modo semplice e in diversi modi.
    • Cloud Storage è adatto per creare un data lake.
  • Google Cloud ti aiuta a modernizzare e ottimizzare la tua piattaforma di dati per eliminare i silos di dati. L'utilizzo di una data lakehouse consente di standardizzare i diversi formati di archiviazione. Inoltre, può offrire la flessibilità, la scalabilità e l'agilità necessarie per garantire che i dati generino valore per la tua attività, anziché inefficienze. Per ulteriori informazioni, consulta BigLake.

  • BigQuery Omni fornisce potenza di calcolo che viene eseguita localmente nello spazio di archiviazione su AWS o Azure. Ti aiuta inoltre a eseguire query sui tuoi dati archiviati in Amazon Simple Storage Service (Amazon S3) o Azure Blob Storage. Questa funzionalità di analisi multicloud consente ai team di dati di abbattere i silos di dati. Per ulteriori informazioni sull'esecuzione di query sui dati archiviati al di fuori di BigQuery, consulta Introduzione alle origini dati esterne.

Best practice

Per implementare il modello di architettura ibrida e multicloud per l'analisi, considera le seguenti best practice generali:

  • Utilizza il pattern di rete di trasferimento per attivare l'importazione dei dati. Se i risultati di analisi devono essere reintegrati nei sistemi transazionali, puoi combinare il pattern di uscita controllata con il pattern di riassegnazione.
  • Utilizza le code Pub/Sub o i bucket Cloud Storage per trasferire i dati a Google Cloud da sistemi transazionali in esecuzione nel tuo ambiente di calcolo privato. Queste code o questi bucket possono quindi fungere da origini per pipeline e workload di elaborazione dati.
  • Per eseguire il deployment di pipeline di dati ETL ed ELT, ti consigliamo di utilizzare Cloud Data Fusion o Dataflow a seconda dei requisiti specifici del tuo caso d'uso. Entrambi sono servizi di elaborazione dati cloud-first completamente gestiti per creare e gestire pipeline di dati.
  • Per scoprire, classificare e proteggere le tue risorse di dati di valore, ti consigliamo di utilizzare le funzionalità di Sensitive Data Protection di Google Cloud, come le tecniche di anonimizzazione. Queste tecniche ti consentono di mascherare, criptare e sostituire i dati sensibili, come le informazioni che consentono l'identificazione personale (PII), utilizzando una chiave predeterminata o generata in modo casuale, ove applicabile e conforme.
  • Se hai già carichi di lavoro Hadoop o Spark, ti consigliamo di eseguire la migrazione dei job in Dataproc e di eseguire la migrazione dei dati HDFS esistenti in Cloud Storage.
  • Quando esegui un trasferimento iniziale dei dati dal tuo ambiente di calcolo privato a Google Cloud, scegli l'approccio di trasferimento più adatto alle dimensioni del tuo set di dati e alla larghezza di banda disponibile. Per maggiori informazioni, consulta Migrazione a Google Cloud: trasferimento di set di dati di grandi dimensioni.

  • Se il trasferimento o lo scambio di dati tra Google Cloud e altri cloud è necessario per il lungo termine con un volume di traffico elevato, ti consigliamo di valutare l'utilizzo di Google Cloud Cross-Cloud Interconnect per aiutarti a stabilire una connettività dedicata ad alta larghezza di banda tra Google Cloud e altri provider di servizi cloud (disponibile in determinate località).

  • Se è richiesta la crittografia a livello di connettività, sono disponibili varie opzioni in base alla soluzione di connettività ibrida selezionata. Queste opzioni includono tunnel VPN, VPN ad alta disponibilità su Cloud Interconnect e MACsec per Cross-Cloud Interconnect.

  • Utilizza strumenti e procedure coerenti in tutti gli ambienti. In uno scenario ibrido di analisi, questa pratica può contribuire ad aumentare l'efficienza operativa, anche se non è un prerequisito.