Questo tutorial spiega come gestire le regole di qualità dei dati di Dataplex come codice con Terraform, Cloud Build e GitHub.
Esistono molte opzioni diverse per le regole di qualità dei dati per definire e misurare la qualità dei dati. Quando automatizzi il processo di implementazione delle regole di qualità dei dati nell'ambito della tua strategia di gestione dell'infrastruttura più ampia, assicurati che i dati siano sottoposti in modo coerente e prevedibile alle regole che assegni.
Se hai versioni diverse di un set di dati per più ambienti, ad esempio gli ambienti dev
e prod
, Terraform fornisce un modo affidabile per assegnare regole di qualità dei dati alle versioni dei set di dati specifiche per l'ambiente.
Il controllo delle versioni è anche una best practice importante di DevOps. La gestione delle regole di qualità dei dati come codice ti fornisce le versioni delle regole di qualità degli stessi disponibili nella cronologia di GitHub. Terraform può anche salvare il proprio stato in Cloud Storage, che può archiviare le versioni precedenti del file dello stato.
Per ulteriori informazioni su Terraform e Cloud Build, consulta la panoramica di Terraform su Google Cloud e Cloud Build.
Architettura
Per capire in che modo questo tutorial utilizza Cloud Build per gestire le esecuzioni di Terraform, considera il seguente diagramma di architettura. Tieni presente che utilizza i branch di GitHub dev
e prod
per rappresentare gli ambienti effettivi.
Il processo inizia quando esegui il push del codice Terraform nel ramo dev
o prod
. In questo scenario, Cloud Build attiva e poi applica i manifest Terraform per raggiungere lo stato desiderato nel rispettivo ambiente.
D'altra parte, quando esegui il push del codice Terraform in un altro ramo, ad esempio in un ramo di funzionalità, Cloud Build viene eseguito per eseguire terraform plan
, ma non viene applicato nulla a nessun ambiente.
Idealmente, gli sviluppatori o gli operatori devono presentare proposte di infrastruttura ai
rami non protetti
e poi inviarle tramite
pull request.
L'app GitHub di Cloud Build, discussa più avanti in questo tutorial, attiva automaticamente i job di compilazione e collega i report terraform plan
a queste richieste di pull. In questo modo, puoi discutere e rivedere le potenziali modifiche con i collaboratori e aggiungere commit di follow-up prima che le modifiche vengano unite al ramo base.
Se non vengono sollevati problemi, devi prima unire le modifiche al ramo dev
. Questa unione attiva un deployment dell'infrastruttura nell'ambiente dev
, consentendoti di testarlo. Dopo aver eseguito il test e aver verificato l'integrità di quanto è stato implementato, devi unire il ramo dev
al ramo prod
per attivare l'installazione dell'infrastruttura nell'ambiente di produzione.
Obiettivi
- Configura il tuo repository GitHub.
- Configura Terraform in modo da archiviare lo stato in un bucket Cloud Storage.
- Concedi le autorizzazioni al tuo account di servizio Cloud Build.
- Connetti Cloud Build al tuo repository GitHub.
- Stabilisci le regole di qualità dei dati Dataplex.
- Modifica la configurazione dell'ambiente in un ramo di funzionalità e testa.
- Apporta modifiche all'ambiente di sviluppo.
- Apportare modifiche all'ambiente di produzione.
Costi
In questo documento utilizzi i seguenti componenti fatturabili di Google Cloud:
Per generare una stima dei costi in base all'utilizzo previsto,
utilizza il Calcolatore prezzi.
Al termine delle attività descritte in questo documento, puoi evitare la fatturazione continua eliminando le risorse che hai creato. Per ulteriori informazioni, consulta la sezione Pulizia.
Prima di iniziare
- Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
-
Make sure that billing is enabled for your Google Cloud project.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
-
Make sure that billing is enabled for your Google Cloud project.
-
In the Google Cloud console, activate Cloud Shell.
At the bottom of the Google Cloud console, a Cloud Shell session starts and displays a command-line prompt. Cloud Shell is a shell environment with the Google Cloud CLI already installed and with values already set for your current project. It can take a few seconds for the session to initialize.
- In Cloud Shell, recupera l'ID del progetto appena selezionato:
Se questo comando non restituisce l'ID progetto, configura Cloud Shell per utilizzare il tuo progetto. Sostituiscigcloud config get-value project
PROJECT_ID
con l'ID del tuo progetto.gcloud config set project PROJECT_ID
- Abilita le API richieste:
Il completamento di questo passaggio potrebbe richiedere alcuni minuti.gcloud services enable bigquery.googleapis.com cloudbuild.googleapis.com compute.googleapis.com dataplex.googleapis.com
- Se non hai mai utilizzato Git in Cloud Shell, configuralo con il tuo nome e indirizzo email:
Git utilizza queste informazioni per identificarti come autore dei commit che crei in Cloud Shell.git config --global user.email "YOUR_EMAIL_ADDRESS" git config --global user.name "YOUR_NAME"
Configura il tuo repository GitHub
In questo tutorial utilizzerai un singolo repository Git per definire la tua infrastruttura cloud. Puoi orchestrare questa infrastruttura disponendo di diversi rami corrispondenti a diversi ambienti:
- Il ramo
dev
contiene le modifiche più recenti applicate all'ambiente di sviluppo. - Il ramo
prod
contiene le ultime modifiche applicate all'ambiente di produzione.
Con questa infrastruttura, puoi sempre fare riferimento al repository per sapere quale configurazione è prevista in ogni ambiente e proporre nuove modifiche combinndole prima nell'ambiente dev
. Poi promuovi le modifiche con la fusione del ramo dev
nel ramo prod
successivo.
Per iniziare, esegui il fork del repository terraform-google-dataplex-auto-data-quality.
Su GitHub, vai a https://github.com/GoogleCloudPlatform/terraform-google-dataplex-auto-data-quality.git.
Fai clic su Fork.
Ora hai una copia del
terraform-google-dataplex-auto-data-quality
repository con i file di origine.In Cloud Shell, clona il seguente repository derivato:
cd ~ git clone https://github.com/GITHUB_USERNAME/terraform-google-dataplex-auto-data-quality.git cd ~/terraform-google-dataplex-auto-data-quality
Sostituisci quanto segue:
- GITHUB_USERNAME: il tuo nome utente GitHub
Crea i rami
dev
eprod
:git checkout -b prod git checkout -b dev
Il codice in questo repository è strutturato come segue:
La cartella
environments/
contiene sottocartelle che rappresentano ambienti, comedev
eprod
, che forniscono una separazione logica tra i carichi di lavoro in diverse fasi di maturità, rispettivamente sviluppo e produzione.La cartella
modules/
contiene moduli Terraform in linea. Questi moduli rappresentano raggruppamenti logici di risorse correlate e vengono utilizzati per condividere il codice in diversi ambienti. Il modulomodules/deploy/
qui rappresenta un modello per un deployment e viene riutilizzato per diversi ambienti di deployment.Entro
modules/deploy/
:La cartella
rule/
contiene fileyaml
contenente regole di qualità dei dati. Un file rappresenta un insieme di regole di qualità dei dati per una tabella. Questo file viene utilizzato negli ambientidev
eprod
.La cartella
schemas/
contiene lo schema della tabella per la tabella BigQuery di cui è stato eseguito il deployment in questa infrastruttura.Il file
bigquery.tf
contiene la configurazione per le tabelle BigQuery create in questo deployment.Il file
dataplex.tf
contiene un'analisi dei dati Dataplex per la qualità dei dati. Questo file viene utilizzato in combinazione conrules_file_parsing.tf
per leggere le regole di qualità dei dati da un fileyaml
nell'ambiente.
Il file
cloudbuild.yaml
è un file di configurazione di compilazione che contiene istruzioni per Cloud Build, ad esempio come eseguire attività in base a una serie di passaggi. Questo file specifica un'esecuzione condizionale in base al ramo da cui Cloud Build recupera il codice, ad esempio:Per i rami
dev
eprod
, vengono eseguiti i seguenti passaggi:terraform init
terraform plan
terraform apply
Per qualsiasi altro ramo, vengono eseguiti i seguenti passaggi:
terraform init
per tutte le sottocartelleenvironments
terraform plan
per tutte le sottocartelleenvironments
Per assicurarti che le modifiche proposte siano appropriate per ogni ambiente,
terraform init
e terraform plan
vengono eseguiti per tutti gli ambienti. Prima di eseguire la fusione della richiesta di pull, puoi esaminare i piani per assicurarti, ad esempio, che l'accesso non venga concesso a una persona giuridica non autorizzata.
Configurare Terraform per archiviare lo stato nei bucket Cloud Storage
Per impostazione predefinita, Terraform archivia
lo stato
localmente in un file denominato terraform.tfstate
. Questa configurazione predefinita può
complicare l'utilizzo di Terraform per i team, soprattutto quando molti utenti eseguono
Terraform contemporaneamente e ogni macchina ha la propria comprensione dell'
infrastruttura attuale.
Per aiutarti a evitare questi problemi, questa sezione configura un
stato remoto
che rimanda a un bucket Cloud Storage. Lo stato remoto è una funzionalità dei backends e, in questo tutorial, è configurato nel file backend.tf
.
Esiste un file backend.tf
separato in ciascuno degli ambienti dev
e prod
. È considerata una best practice l'utilizzo di un bucket Cloud Storage diverso per ogni ambiente.
Nei passaggi che seguono, creerai due bucket Cloud Storage per dev
e prod
e modificherai alcuni file in modo che rimandino ai nuovi bucket e al
tuo progetto Google Cloud.
In Cloud Shell, crea i due bucket Cloud Storage:
DEV_BUCKET=gs://PROJECT_ID-tfstate-dev gcloud storage buckets create ${DEV_BUCKET} PROD_BUCKET=gs://PROJECT_ID-tfstate-prod gcloud storage buckets create ${PROD_BUCKET}
Per conservare la cronologia dei deployment, attiva il controllo delle versioni degli oggetti:
gcloud storage buckets update ${DEV_BUCKET} --versioning gcloud storage buckets update ${PROD_BUCKET} --versioning
L'attivazione del controllo delle versioni degli oggetti aumenta i costi di archiviazione, che puoi ridurre configurando Gestione del ciclo di vita degli oggetti in modo da eliminare le versioni precedenti dello stato.
In ogni ambiente, nei file
main.tf
ebackend.tf
, sostituisciPROJECT_ID
con l'ID progetto:cd ~/terraform-google-dataplex-auto-data-quality sed -i s/PROJECT_ID/PROJECT_ID/g environments/*/main.tf sed -i s/PROJECT_ID/PROJECT_ID/g environments/*/backend.tf
Su OS X o macOS, potrebbe essere necessario aggiungere due virgolette (
""
) doposed -i
, come segue:cd ~/solutions-terraform-cloudbuild-gitops sed -i "" s/PROJECT_ID/PROJECT_ID/g environments/*/main.tf sed -i "" s/PROJECT_ID/PROJECT_ID/g environments/*/backend.tf
Controlla se tutti i file sono stati aggiornati:
git status
Di seguito è riportato un output di esempio:
On branch dev Your branch is up-to-date with 'origin/dev'. Changes not staged for commit: (use "git add <file>..." to update what will be committed) (use "git checkout -- <file>..." to discard changes in working directory) modified: environments/dev/backend.tf modified: environments/dev/main.tf modified: environments/prod/backend.tf modified: environments/prod/main.tf no changes added to commit (use "git add" and/or "git commit -a")
Esegui il commit e il push delle modifiche:
git add --all git commit -m "Update project IDs and buckets" git push origin dev
A seconda della configurazione di GitHub, devi autenticarti per eseguire il push delle modifiche precedenti.
Concedi le autorizzazioni al tuo account di servizio Cloud Build
Per consentire all'account di servizio Cloud Build di eseguire script Terraform allo scopo di gestire le risorse Google Cloud, devi concedergli l'accesso appropriato al tuo progetto. Per semplicità, in questo tutorial viene concesso l'accesso come editor del progetto. Tuttavia, se il ruolo di editor del progetto dispone di un'autorizzazione di ampio raggio, negli ambienti di produzione devi seguire le best practice per la sicurezza IT della tua azienda, in genere fornendo un accesso con privilegi minimi.
In Cloud Shell, recupera l'indirizzo email del account di servizio Cloud Build del tuo progetto:
CLOUDBUILD_SA="$(gcloud projects describe $PROJECT_ID \ --format 'value(projectNumber)')@cloudbuild.gserviceaccount.com"
Concedi l'accesso richiesto al tuo account di servizio Cloud Build:
gcloud projects add-iam-policy-binding $PROJECT_ID \ --member serviceAccount:$CLOUDBUILD_SA --role roles/editor
Connetti direttamente Cloud Build al tuo repository GitHub
Questa sezione descrive come installare l'app GitHub di Cloud Build. Questa installazione ti consente di collegare il tuo repository GitHub al tuo progetto Google Cloud in modo che Cloud Build possa applicare automaticamente i tuoi manifest Terraform ogni volta che crei un nuovo ramo o esegui il push del codice su GitHub.
I passaggi riportati di seguito forniscono istruzioni per installare l'app solo per il repository terraform-google-dataplex-auto-data-quality
, ma puoi scegliere di installarla per uno o più dei tuoi repository.
In GitHub Marketplace, vai alla pagina dell'app Cloud Build.
- Se è la prima volta che configuri un'app in GitHub: fai clic su Configura con Google Cloud Build in fondo alla pagina. Quindi, fai clic su Concede a questa app l'accesso al tuo account GitHub.
- Se non è la prima volta che configuri un'app in GitHub: fai clic su Configura l'accesso. Viene visualizzata la pagina Applications (Applicazioni) del tuo account personale.
Fai clic su Configura nella riga Cloud Build.
Seleziona Solo repository selezionati, quindi
terraform-google-dataplex-auto-data-quality
per connetterti al repository.Fai clic su Salva o Installa. L'etichetta del pulsante cambia in base al tuo flusso di lavoro. Verrà eseguito il reindirizzamento a Google Cloud per continuare l'installazione.
Accedi con il tuo account Google Cloud. Se richiesto, autorizza l'integrazione di Cloud Build con GitHub.
Nella pagina Cloud Build, seleziona il tuo progetto. Viene visualizzata una procedura guidata.
Nella sezione Seleziona repository, seleziona il tuo account GitHub e il
terraform-google-dataplex-auto-data-quality
repository.Se accetti i termini e le condizioni, seleziona la casella di controllo e poi fai clic su Connetti.
Nella sezione Crea un trigger, fai clic su Crea un trigger:
- Aggiungi un nome per l'attivatore, ad esempio
push-to-branch
. Prendi nota del nome dell'attivatore, perché ti servirà in seguito. - Nella sezione Evento, seleziona Push al ramo.
- Nella sezione Origine, seleziona
.*
nel campo Filiale. - Fai clic su Crea.
- Aggiungi un nome per l'attivatore, ad esempio
L'app GitHub di Cloud Build è configurata e il tuo repository GitHub è collegato al tuo progetto Google Cloud. Le modifiche al repository GitHub attivano le esecuzioni di Cloud Build, che riportano i risultati su GitHub utilizzando GitHub Checks.
Modificare la configurazione dell'ambiente in un nuovo ramo della funzionalità
Hai configurato la maggior parte dell'ambiente. Apporta le modifiche necessarie al codice nel tuo ambiente locale:
Su GitHub, vai alla pagina principale del repository creato mediante fork.
https://github.com/YOUR_GITHUB_USERNAME/terraform-google-dataplex-auto-data-quality
Assicurati di utilizzare il ramo
dev
.Per aprire il file per la modifica, vai al file
modules/deploy/dataplex.tf
.Nella riga 19, cambia l'etichetta
the_environment
inenvironment
.Aggiungi un messaggio di commit nella parte inferiore della pagina, ad esempio "modifica dell'etichetta", e seleziona Crea un nuovo ramo per questo commit e avvia una richiesta di pull.
Fai clic su Proponi modifiche.
Nella pagina successiva, fai clic su Crea pull request per aprire una nuova pull request con la modifica al ramo
dev
.Una volta aperta la richiesta di pull, viene avviato automaticamente un job Cloud Build.
Fai clic su Mostra tutti i controlli e attendi che il controllo diventi verde. Non unire ancora la richiesta pull. L'unione viene eseguita in un passaggio successivo del tutorial.
Fai clic su Dettagli per visualizzare ulteriori informazioni, incluso l'output di
terraform plan
al link Visualizza ulteriori dettagli su Google Cloud Build.
Tieni presente che il job Cloud Build ha eseguito la pipeline definita nel
cloudbuild.yaml
file. Questa pipeline ha comportamenti diversi a seconda del ramo recuperato. La compilazione verifica se la variabile $BRANCH_NAME
corrisponde a una cartella dell'ambiente. In questo caso,
Cloud Build esegue terraform plan
per quell'ambiente.
In caso contrario, Cloud Build esegue terraform plan
per tutti gli ambienti per assicurarsi che la modifica proposta sia appropriata per tutti. Se l'esecuzione di uno di questi piani non va a buon fine, la compilazione non va a buon fine.
Analogamente, il comando terraform apply
viene eseguito per i branch dell'ambiente, ma viene completamente ignorato in qualsiasi altro caso. In questa sezione hai inviato una modifica al codice in un nuovo ramo, pertanto non sono stati applicati deployment dell'infrastruttura al tuo progetto Google Cloud.
Impostare l'esito positivo dell'esecuzione di Cloud Build prima dell'unione dei rami
Per assicurarti che le unioni possano essere applicate solo quando le rispettive esecuzioni di Cloud Build sono riuscite, segui questi passaggi:
Su GitHub, vai alla pagina principale del repository creato mediante fork.
https://github.com/YOUR_GITHUB_USERNAME/terraform-google-dataplex-auto-data-quality
Sotto il nome del repository, fai clic su Impostazioni.
Nel menu a sinistra, fai clic su Filiale.
In Regole di protezione del ramo, fai clic su Aggiungi regola.
In Pattern del nome del ramo, digita
dev
.Nella sezione Proteggi i rami corrispondenti, seleziona Richiedi il superamento dei controlli di stato prima dell'unione.
Cerca il nome dell'attivatore Cloud Build creato in precedenza.
Fai clic su Crea.
Ripeti i passaggi da 3 a 7 impostando Pattern del nome del negozio su
prod
.
Questa configurazione è importante per
proteggere
entrambi i rami dev
e prod
. Ciò significa che i commit devono prima essere inviati a un altro ramo e solo dopo possono essere uniti al ramo protetto. In questo tutorial, la protezione richiede che l'esecuzione di Cloud Build sia andata a buon fine per consentire l'unione.
Promuovere le modifiche all'ambiente di sviluppo
Hai una richiesta di pull in attesa di essere unita. È il momento di applicare lo stato che preferisci al tuo ambiente dev
.
Su GitHub, vai alla pagina principale del repository creato mediante fork.
https://github.com/YOUR_GITHUB_USERNAME/terraform-google-dataplex-auto-data-quality
Sotto il nome del repository, fai clic su Pull request.
Fai clic sulla richiesta di pull appena creata.
Fai clic su Unisci richiesta pull e poi su Conferma unione.
Verifica che sia stato attivato un nuovo Cloud Build:
Apri la compilazione e controlla i log. Verranno mostrate tutte le risorse che Terraform sta creando e gestendo.
Promuovere le modifiche all'ambiente di produzione
Ora che hai testato completamente l'ambiente di sviluppo, puoi promuovere il codice per le regole di qualità dei dati in produzione.
Su GitHub, vai alla pagina principale del repository creato mediante fork.
https://github.com/YOUR_GITHUB_USERNAME/terraform-google-dataplex-auto-data-quality
Sotto il nome del repository, fai clic su Pull request.
Fai clic su Nuova richiesta pull.
Per il repository di base, seleziona il repository appena sottoposto a fork.
Per base, seleziona
prod
dal tuo repository di base. Per confronta, selezionadev
.Fai clic su Crea richiesta pull.
In title, inserisci un titolo, ad esempio
Changing label name
, quindi fai clic su Crea pull request.Esamina le modifiche proposte, inclusi i dettagli di
terraform plan
di Cloud Build, quindi fai clic su Unisci richiesta pull.Fai clic su Conferma unione.
Nella console Google Cloud, apri la pagina Cronologia build per vedere le modifiche applicate all'ambiente di produzione:
Hai configurato correttamente le regole di qualità dei dati gestite utilizzando Terraform e Cloud Build.
Esegui la pulizia
Al termine del tutorial, elimina le risorse che hai creato su Google Cloud in modo che non ti vengano addebitate in futuro.
Elimina il progetto
- In the Google Cloud console, go to the Manage resources page.
- In the project list, select the project that you want to delete, and then click Delete.
- In the dialog, type the project ID, and then click Shut down to delete the project.
Elimina il repository GitHub
Per evitare di bloccare le nuove richieste di pull nel tuo repository GitHub, puoi eliminare le regole di protezione dei rami:
- In GitHub, vai alla pagina principale del repository di cui hai creato un fork.
- Sotto il nome del repository, fai clic su Impostazioni.
- Nel menu a sinistra, fai clic su Filiale.
- Nella sezione Regole per la protezione dei rami, fai clic sul pulsante Elimina sia per le righe
dev
sia per quelleprod
.
Se vuoi, puoi disinstallare completamente l'app Cloud Build da GitHub:
In GitHub, vai alla pagina Applicazioni GitHub.
Nella scheda App GitHub installate, fai clic su Configura nella riga Cloud Build. Quindi, nella sezione Zona pericolosa, fai clic sul pulsante Disinstalla nella riga Disinstalla Google Cloud Builder.
Nella parte superiore della pagina viene visualizzato il messaggio "Tutto pronto. È stato messo in coda un job per la disinstallazione di Google Cloud Build."
Nella scheda App GitHub autorizzate, fai clic sul pulsante Revoca nella riga Google Cloud Build, quindi su Ho capito, revoca l'accesso.
Se non vuoi conservare il tuo repository GitHub, eliminalo:
- In GitHub, vai alla pagina principale del repository di cui hai creato un fork.
- Sotto il nome del repository, fai clic su Impostazioni.
- Vai a Zona pericolosa.
- Fai clic su Elimina questo repository e segui i passaggi per la conferma.
Passaggi successivi
- Scopri di più sulla qualità dei dati automatica.
- Scopri di più su DevOps e sulle best practice DevOps.
- Consulta il Cloud Foundation Toolkit per altri modelli Terraform.