Esecuzione di un'istanza di blocchi note gestiti su un cluster Dataproc
Questa pagina mostra come eseguire il file del blocco note di un'istanza di blocchi note gestiti su un cluster Dataproc.
Prima di iniziare
- Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
-
Make sure that billing is enabled for your Google Cloud project.
-
Enable the Notebooks and Dataproc APIs.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
-
Make sure that billing is enabled for your Google Cloud project.
-
Enable the Notebooks and Dataproc APIs.
- Se non l'hai ancora fatto, crea un'istanza di notebook gestiti.
Ruoli obbligatori
Per assicurarti che l'account di servizio disponga delle autorizzazioni necessarie per eseguire un file del notebook su un cluster Dataproc Serverless, chiedi all'amministratore di concedere all'account di servizio i seguenti ruoli IAM:
-
Dataproc Worker (
roles/dataproc.worker
) nel tuo progetto -
Dataproc Editor (
roles/dataproc.editor
) sul cluster per l'autorizzazionedataproc.clusters.use
Per saperne di più sulla concessione dei ruoli, consulta Gestire l'accesso a progetti, cartelle e organizzazioni.
Questi ruoli predefiniti contengono le autorizzazioni necessarie per eseguire un file del blocco note su un cluster Dataproc Serverless. Per visualizzare le autorizzazioni esatte richieste, espandi la sezione Autorizzazioni richieste:
Autorizzazioni obbligatorie
Per eseguire un file di notebook su un cluster Dataproc Serverless sono necessarie le seguenti autorizzazioni:
-
dataproc.agents.create
-
dataproc.agents.delete
-
dataproc.agents.get
-
dataproc.agents.update
-
dataproc.tasks.lease
-
dataproc.tasks.listInvalidatedLeases
-
dataproc.tasks.reportStatus
-
dataproc.clusters.use
L'amministratore potrebbe anche assegnare all'account di servizio queste autorizzazioni con ruoli personalizzati o altri ruoli predefiniti.
Crea un cluster Dataproc
Per eseguire il file del blocco note di un'istanza di blocchi note gestiti in un cluster Dataproc, il cluster deve soddisfare i seguenti criteri:
Il gateway dei componenti del cluster deve essere attivato.
Il cluster deve avere il componente Jupyter.
Il cluster deve trovarsi nella stessa regione della tua istanza di notebook gestita.
Per creare il cluster Dataproc, inserisci il seguente comando in Cloud Shell o in un altro ambiente in cui è installato Google Cloud CLI.
gcloud dataproc clusters create CLUSTER_NAME\ --region=REGION \ --enable-component-gateway \ --optional-components=JUPYTER
Sostituisci quanto segue:
REGION
: la Google Cloud posizione della tua istanza di Notebook gestitiCLUSTER_NAME
: il nome del nuovo cluster
Dopo alcuni minuti, il cluster Dataproc è pronto per l'uso. Scopri di più sulla creazione di cluster Dataproc.
Apri JupyterLab
Se non lo hai già fatto, crea un'istanza di notebook gestita nella stessa regione in cui si trova il tuo cluster Dataproc.
Nella console Google Cloud, vai alla pagina Notebook gestiti.
Fai clic su Apri JupyterLab accanto al nome dell'istanza di blocchi note gestiti.
Esegui un file del blocco note nel cluster Dataproc
Puoi eseguire un file del blocco note nel tuo cluster Dataproc da qualsiasi istanza di blocchi note gestiti nella stessa regione e nello stesso progetto.
Esegui un nuovo file del blocco note
Nell'interfaccia JupyterLab dell'istanza dei notebook gestiti, seleziona File > Nuovo > Notebook.
I kernel disponibili del cluster Dataproc vengono visualizzati nel menu Seleziona kernel. Seleziona il kernel che vuoi utilizzare e poi fai clic su Seleziona.
Si apre il nuovo file del blocco note.
Aggiungi il codice al nuovo file del notebook ed eseguilo.
Per modificare il kernel da utilizzare dopo aver creato il file del notebook, consulta la sezione seguente.
Esegui un file del notebook esistente
Nell'interfaccia JupyterLab dell'istanza di blocchi note gestiti, fai clic sul pulsante
File Browser, vai al file del blocco note che vuoi eseguire e aprilo.Per aprire la finestra di dialogo Seleziona kernel, fai clic sul nome del kernel del file del blocco note, ad esempio Python (locale).
Per selezionare un kernel dal tuo cluster Dataproc, seleziona un nome del kernel che includa il nome del cluster alla fine. Ad esempio, un kernel PySpark su un cluster Dataproc chiamato
mycluster
si chiama PySpark on mycluster.Fai clic su Seleziona per chiudere la finestra di dialogo.
Ora puoi eseguire il codice del file del tuo blocco note sul cluster Dataproc.
Passaggi successivi
- Scopri di più su Dataproc.