Esecuzione di un'istanza di blocchi note gestiti su un cluster Dataproc
Questa pagina mostra come eseguire un'istanza di blocchi note gestiti su un cluster Dataproc.
Prima di iniziare
- Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
-
Make sure that billing is enabled for your Google Cloud project.
-
Enable the Notebooks and Dataproc APIs.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
-
Make sure that billing is enabled for your Google Cloud project.
-
Enable the Notebooks and Dataproc APIs.
- Se non l'hai ancora fatto, crea un'istanza di notebook gestiti.
Ruoli obbligatori
Per assicurarti che l'account di servizio disponga dei necessari autorizzazioni per eseguire un file blocco note su un cluster Dataproc serverless, chiedi all'amministratore di concedere all'account di servizio seguenti ruoli IAM:
-
Dataproc Worker (
roles/dataproc.worker
) nel tuo progetto -
Editor Dataproc (
roles/dataproc.editor
) sul cluster per l'autorizzazionedataproc.clusters.use
Per saperne di più sulla concessione dei ruoli, consulta Gestire l'accesso a progetti, cartelle e organizzazioni.
Questi ruoli predefiniti le autorizzazioni necessarie per eseguire un file di blocco note su un cluster Dataproc serverless. Per vedere le autorizzazioni esatte obbligatorie, espandi la sezione Autorizzazioni obbligatorie:
Autorizzazioni obbligatorie
Per eseguire un file di notebook su un cluster Dataproc Serverless sono necessarie le seguenti autorizzazioni:
-
dataproc.agents.create
-
dataproc.agents.delete
-
dataproc.agents.get
-
dataproc.agents.update
-
dataproc.tasks.lease
-
dataproc.tasks.listInvalidatedLeases
-
dataproc.tasks.reportStatus
-
dataproc.clusters.use
L'amministratore potrebbe anche essere in grado di fornire l'account di servizio queste autorizzazioni con ruoli personalizzati altri ruoli predefiniti.
Crea un cluster Dataproc
Eseguire il file di blocco note di un'istanza di blocchi note gestiti in un cluster Dataproc, quest'ultimo deve soddisfare i requisiti seguenti di classificazione:
Il gateway dei componenti del cluster deve essere attivato.
Il cluster deve avere il componente Jupyter.
Il cluster deve trovarsi nella stessa regione della tua istanza di blocchi note gestiti.
Per creare un cluster Dataproc, inserisci il seguente comando Cloud Shell o un altro in cui è installata Google Cloud CLI.
gcloud dataproc clusters create CLUSTER_NAME\ --region=REGION \ --enable-component-gateway \ --optional-components=JUPYTER
Sostituisci quanto segue:
REGION
: la posizione Google Cloud della tua istanza di Notebook gestitiCLUSTER_NAME
: il nome del nuovo cluster
Dopo alcuni minuti, il cluster Dataproc è pronto per l'uso. Scopri di più sulla creazione di cluster Dataproc.
Apri JupyterLab
Se non lo hai già fatto, crea un'istanza di notebook gestita nella stessa regione in cui si trova il tuo cluster Dataproc.
Nella console Google Cloud, vai alla pagina Blocchi note gestiti.
Fai clic su Apri JupyterLab accanto al nome dell'istanza di blocchi note gestiti.
Eseguire un file blocco note nel cluster Dataproc
Puoi eseguire un file del blocco note nel tuo cluster Dataproc da qualsiasi istanza di blocchi note gestiti nella stessa regione e nello stesso progetto.
Esegui un nuovo file del blocco note
Nell'interfaccia JupyterLab della tua istanza di blocchi note gestiti, Seleziona File > Nuovo > Blocco note.
I kernel disponibili del cluster Dataproc vengono visualizzati nel menu Seleziona kernel. Seleziona il kernel che vuoi utilizzare e poi fai clic su Seleziona.
Si apre il nuovo file del blocco note.
Aggiungi il codice al nuovo file del blocco note ed esegui il codice.
Per modificare il kernel da utilizzare dopo aver creato il file del notebook, consulta la sezione seguente.
Eseguire un file del blocco note esistente
Nell'interfaccia JupyterLab della tua istanza di blocchi note gestiti, fai clic sull'
Browser file, vai al file del blocco note che vuoi eseguire e aprilo.Per aprire la finestra di dialogo Seleziona kernel, fai clic sul nome del kernel del file del blocco note, ad esempio Python (locale).
Per selezionare un kernel dal tuo cluster Dataproc, seleziona un nome del kernel che includa il nome del cluster alla fine. Ad esempio, un kernel PySpark su un cluster Dataproc denominato
mycluster
è denominato PySpark on mycluster.Fai clic su Seleziona per chiudere la finestra di dialogo.
Ora puoi eseguire il codice del file del tuo blocco note sul cluster Dataproc.
Passaggi successivi
- Scopri di più su Dataproc.