I seguenti esempi creano e utilizzano un cluster Dataproc abilitato per Kerberos con i componenti Ranger e Solr per controllare l'accesso degli utenti alle risorse Hadoop, YARN e HIVE.
Note:
È possibile accedere all'interfaccia utente web di Ranger tramite il Gateway dei componenti.
In un ranger con cluster Kerberos, Dataproc mappa un utente Kerberos all'utente del sistema eliminando l'area e l'istanza dell'utente Kerberos. Ad esempio, l'entità Kerberos
user1/cluster-m@MY.REALM
è mappata al sistemauser1
e i criteri intervallo sono definiti per consentire o negare le autorizzazioni peruser1
.
Crea il cluster.
- Il seguente comando
gcloud
può essere eseguito in una finestra del terminale locale o da Cloud Shell di un progetto.gcloud dataproc clusters create cluster-name \ --region=region \ --optional-components=SOLR,RANGER \ --enable-component-gateway \ --properties="dataproc:ranger.kms.key.uri=projects/project-id/locations/global/keyRings/keyring/cryptoKeys/key,dataproc:ranger.admin.password.uri=gs://bucket/admin-password.encrypted" \ --kerberos-root-principal-password-uri=gs://bucket/kerberos-root-principal-password.encrypted \ --kerberos-kms-key=projects/project-id/locations/global/keyRings/keyring/cryptoKeys/key
- Il seguente comando
Dopo che il cluster è in esecuzione, vai alla pagina Cluster di Dataproc nella console Google Cloud, quindi seleziona il nome del cluster per aprire la pagina Dettagli del cluster. Fai clic sulla scheda Interfacce web per visualizzare un elenco di link del gateway dei componenti alle interfacce web dei componenti predefiniti e facoltativi installati sul cluster. Fai clic sul link Ranger.
Accedi a Ranger inserendo il nome utente "amministratore" e la password di amministratore del ranger.
L'interfaccia utente di amministratore di Ranger si apre in un browser locale.
Criterio di accesso YARN
In questo esempio viene creato un criterio Ranger per consentire e negare l'accesso degli utenti alla coda root.default YARN.
Seleziona
yarn-dataproc
dall'interfaccia utente di amministratore di Ranger.Nella pagina yarn-dataproc policies (Norme yarn-dataproc), fai clic su Add New Policy (Aggiungi nuova norma). Nella pagina Crea criterio, vengono inseriti o selezionati i seguenti campi:
Policy Name
: "yarn-policy-1"Queue
: "root.default"Audit Logging
: "Sì"Allow Conditions
:Select User
: "userone"Permissions
: "Seleziona tutto" per concedere tutte le autorizzazioni
Deny Conditions
:Select User
: "utentedue"Permissions
: "Seleziona tutto" per negare tutte le autorizzazioni
Fai clic su Aggiungi per salvare il criterio. Il criterio è elencato nella pagina dei criteri yarn-dataproc:
Esegui un job di MapReduce di Hadoop nella finestra della sessione SSH principale come userone:
userone@example-cluster-m:~$ hadoop jar /usr/lib/hadoop-mapreduce/hadoop-mapreduced-examples. jar pi 5 10
- L'interfaccia utente del ranger mostra che
userone
ha ricevuto l'autorizzazione per inviare il job.
- L'interfaccia utente del ranger mostra che
Esegui il job di MapReduce di Hadoop dalla finestra della sessione SSH del master della VM come
usertwo
:usertwo@example-cluster-m:~$ hadoop jar /usr/lib/hadoop-mapreduce/hadoop-mapreduced-examples. jar pi 5 10
- L'interfaccia utente di Ranger mostra che a
usertwo
è stato negato l'accesso per inviare il job.
- L'interfaccia utente di Ranger mostra che a
Criterio di accesso HDFS
In questo esempio viene creato un criterio Ranger per consentire e negare l'accesso degli utenti alla directory HDFS /tmp
.
Seleziona
hadoop-dataproc
dall'interfaccia utente di amministratore di Ranger.Nella pagina Norme di hadoop-dataproc, fai clic su Aggiungi nuova norma. Nella pagina Crea criterio, vengono inseriti o selezionati i seguenti campi:
Policy Name
: "hadoop-policy-1"Resource Path
: "/tmp"Audit Logging
: "Sì"Allow Conditions
:Select User
: "userone"Permissions
: "Seleziona tutto" per concedere tutte le autorizzazioni
Deny Conditions
:Select User
: "utentedue"Permissions
: "Seleziona tutto" per negare tutte le autorizzazioni
Fai clic su Aggiungi per salvare il criterio. Il criterio è elencato nella pagina Criteri di hadoop-dataproc:
Accedi alla directory HDFS
/tmp
come userone:userone@example-cluster-m:~$ hadoop fs -ls /tmp
- La UI di Ranger mostra che a
userone
è stato consentito l'accesso alla directory HDFS /tmp.
- La UI di Ranger mostra che a
Accedi alla directory
/tmp
dell'HDFS comeusertwo
:usertwo@example-cluster-m:~$ hadoop fs -ls /tmp
- L'interfaccia utente di Ranger mostra che a
usertwo
è stato negato l'accesso alla directory HDFS /tmp.
- L'interfaccia utente di Ranger mostra che a
Criterio di accesso ad Hive
In questo esempio viene creato un criterio Ranger per consentire e negare l'accesso degli utenti a una tabella Hive.
Crea una piccola tabella
employee
utilizzando l'interfaccia a riga di comando hive sull'istanza master.hive> CREATE TABLE IF NOT EXISTS employee (eid int, name String); INSERT INTO employee VALUES (1 , 'bob') , (2 , 'alice'), (3 , 'john');
Seleziona
hive-dataproc
dall'interfaccia utente di amministratore di Ranger.Nella pagina Criteri di Hive-dataproc, fai clic su Aggiungi nuova norma. Nella pagina Crea criterio, vengono inseriti o selezionati i seguenti campi:
Policy Name
: "hive-policy-1"database
: "valore predefinito"table
: "dipendente"Hive Column
: "*"Audit Logging
: "Sì"Allow Conditions
:Select User
: "userone"Permissions
: "Seleziona tutto" per concedere tutte le autorizzazioni
Deny Conditions
:Select User
: "utentedue"Permissions
: "Seleziona tutto" per negare tutte le autorizzazioni
Fai clic su Aggiungi per salvare il criterio. Il criterio è elencato nella pagina Criteri di hive-dataproc:
Esegui una query dalla sessione SSH master della VM sulla tabella dei dipendenti Hive come utenteone:
userone@example-cluster-m:~$ beeline -u "jdbc:hive2://$(hostname -f):10000/default;principal=hive/$(hostname -f)@REALM" -e "select * from employee;"
- La query userone ha esito positivo:
Connected to: Apache Hive (version 2.3.6) Driver: Hive JDBC (version 2.3.6) Transaction isolation: TRANSACTION_REPEATABLE_READ +---------------+----------------+ | employee.eid | employee.name | +---------------+----------------+ | 1 | bob | | 2 | alice | | 3 | john | +---------------+----------------+ 3 rows selected (2.033 seconds)
- La query userone ha esito positivo:
Esegui una query dalla sessione SSH master della VM sulla tabella dei dipendenti Hive come utentedue:
usertwo@example-cluster-m:~$ beeline -u "jdbc:hive2://$(hostname -f):10000/default;principal=hive/$(hostname -f)@REALM" -e "select * from employee;"
- A usertwo è negato l'accesso alla tabella:
Error: Could not open client transport with JDBC Uri: ... Permission denied: user=usertwo, access=EXECUTE, inode="/tmp/hive"
- A usertwo è negato l'accesso alla tabella:
Accesso all'alveare granulare
Ranger supporta i filtri di mascheramento e a livello di riga su Hive. Questo esempio si basa sul criterio hive-policy-1
precedente aggiungendo criteri di mascheramento e filtro.
Seleziona
hive-dataproc
dall'interfaccia utente di amministratore di Ranger, quindi seleziona la scheda Mascheramento e fai clic su Aggiungi nuovo criterio.Nella pagina Crea criterio, vengono inseriti o selezionati i seguenti campi per creare un criterio che maschera (nullo) la colonna del nome del dipendente.
Policy Name
: "norme relative al mascheramento dell'alveare"database
: "valore predefinito"table
: "dipendente"Hive Column
: "nome"Audit Logging
: "Sì"Mask Conditions
:Select User
: "userone"Access Types
: "seleziona" aggiungi/modifica autorizzazioniSelect Masking Option
: "nullify"Fai clic su Aggiungi per salvare il criterio.
Seleziona
hive-dataproc
dall'interfaccia utente di amministrazione di Ranger, quindi seleziona la scheda Filtro a livello di riga e fai clic su Aggiungi nuovo criterio.Nella pagina Crea criterio, vengono inseriti o selezionati i seguenti campi per creare un criterio per filtrare (restituire) le righe in cui
eid
è diverso da1
:Policy Name
: "criteri di filtro hive"Hive Database
: "valore predefinito"Hive Table
: "dipendente"Audit Logging
: "Sì"Mask Conditions
:Select User
: "userone"Access Types
: "seleziona" aggiungi/modifica autorizzazioniRow Level Filter
: espressione di filtro "eid != 1"Fai clic su Aggiungi per salvare il criterio.
Ripeti la query precedente della sessione SSH master della VM sulla tabella dei dipendenti Hive come userone:
userone@example-cluster-m:~$ beeline -u "jdbc:hive2://$(hostname -f):10000/default;principal=hive/$(hostname -f)@REALM" -e "select * from employee;"
- La query restituisce con la colonna del nome mascherata e bob
(eid=1) filtrato dai risultati.
Transaction isolation: TRANSACTION_REPEATABLE_READ +---------------+----------------+ | employee.eid | employee.name | +---------------+----------------+ | 2 | NULL | | 3 | NULL | +---------------+----------------+ 2 rows selected (0.47 seconds)
- La query restituisce con la colonna del nome mascherata e bob
(eid=1) filtrato dai risultati.