IAM-Rollen und Identität für Dataproc in GKE

Identität der Datenebene

Dataproc in GKE verwendet die GKE-Arbeitslast-Identität, damit Pods innerhalb des Dataproc in GKE-Clusters mit der Autorisierung des standardmäßigen Dataproc-VM-Dienstkontos (Identität der Datenebene) agieren können. Für Workload Identity sind die folgenden Berechtigungen erforderlich, um IAM-Richtlinien für die GSA zu aktualisieren, die von Ihrem virtuellen Dataproc in GKE-Cluster verwendet wird:

• compute.projects.get
• iam.serviceAccounts.getIamPolicy
• iam.serviceAccounts.setIamPolicy

Hinweis: Sie können Workload Identity mit einem anderen GSA verwenden. Weitere Informationen finden Sie unter Benutzerdefinierte IAM-Konfiguration.

Die GKE-Arbeitslast-Identität verknüpft die folgenden GKE-Dienstkonten (KSAs) mit dem Dataproc-VM-Dienstkonto:

1. agent KSA (interagieren mit der Dataproc-Kontrollebene):
   serviceAccount:${PROJECT}.svc.id.goog[${DPGKE_NAMESPACE}/agent]
2. spark-driver KSA (führt Spark-Treiber aus):
   serviceAccount:${PROJECT}.svc.id.goog[${DPGKE_NAMESPACE}/spark-driver]
3. spark-executor KSA (führt Spark-Executors aus):
   serviceAccount:${PROJECT}.svc.id.goog[${DPGKE_NAMESPACE}/spark-executor]

Verwenden Sie das Flag gcloud dataproc clusters gke create --setup-workload-identity, wenn Sie einen Dataproc-Cluster in GKE erstellen, um die für den Cluster erforderlichen Bindungen für Arbeitslastidentitäten zu erstellen.

Rollen zuweisen

Erteilen Sie dem Dataproc-VM-Dienstkonto Berechtigungen, damit spark-driver und spark-executor auf Projektressourcen, Datenquellen, Datensenken und alle anderen für Ihre Arbeitslast erforderlichen Dienste zugreifen können.

Beispiel:

Mit dem folgenden Befehl werden dem Standarddienstkonto der Dataproc-VM Rollen zugewiesen, damit Spark-Arbeitslasten, die auf Dataproc-VMs in GKE-Clustern ausgeführt werden, auf Cloud Storage-Buckets und BigQuery-Datasets im Projekt zugreifen können.

gcloud projects add-iam-policy-binding \
    --role=roles/storage.objectAdmin \
    --role=roles/bigquery.dataEditor \
    --member="[e-mail]" \
    "${PROJECT}"

Benutzerdefinierte IAM-Konfiguration

In Dataproc on GKE wird GKE Workload Identity verwendet, um das standardmäßige Dataproc-VM-Dienstkonto (Identität der Datenebene) mit den drei GKE-Dienstkonten (KSAs) zu verknüpfen.

So erstellen und verwenden Sie ein anderes Google-Dienstkonto (GSA), das mit den KSAs verknüpft werden soll:

1. Erstellen Sie das GSA (siehe Dienstkonten erstellen und verwalten).

   Beispiel für die gcloud CLI:

   gcloud iam service-accounts create "dataproc-${USER}" \
       --description "Used by Dataproc on GKE workloads."
   

   Hinweise:
   • Im Beispiel wird der GSA-Name als „dataproc-${USER}“ festgelegt. Sie können aber auch einen anderen Namen verwenden.

2. Legen Sie Umgebungsvariablen fest:

   PROJECT=project-id \
     DPGKE_GSA="dataproc-${USER}@${PROJECT}.iam.gserviceaccount.com"
     DPGKE_NAMESPACE=GKE namespace
   

   Hinweise:
   • DPGKE_GSA: In den Beispielen wird DPGKE_GSA als Name der Variablen festgelegt und verwendet, die die E-Mail-Adresse Ihres GSA enthält. Sie können einen anderen Variablennamen festlegen und verwenden.
   • DPGKE_NAMESPACE: Der Standard-GKE-Namespace ist der Name Ihres Dataproc on GKE-Clusters.

3. Fügen Sie beim Erstellen des Dataproc-Clusters in GKE die folgenden Eigenschaften hinzu, damit Dataproc Ihre GSA anstelle der Standard-GSA verwendet:

   --properties "dataproc:dataproc.gke.agent.google-service-account=${DPGKE_GSA}" \
   --properties "dataproc:dataproc.gke.spark.driver.google-service-account=${DPGKE_GSA}" \
   --properties "dataproc:dataproc.gke.spark.executor.google-service-account=${DPGKE_GSA}" \
   

4. Run the following commands to assign necessary Workload Identity permissions to the service accounts:

   1. Assign your GSA the dataproc.worker role to allow it to act as agent:

      gcloud projects add-iam-policy-binding \
          --role=roles/dataproc.worker \
          --member="serviceAccount:${DPGKE_GSA}" \
          "${PROJECT}"
      

   2. Weisen Sie dem agent KSA die Rolle iam.workloadIdentityUser zu, damit es als GSA fungieren kann:

      gcloud iam service-accounts add-iam-policy-binding \
          --role=roles/iam.workloadIdentityUser \
          --member="serviceAccount:${PROJECT}.svc.id.goog[${DPGKE_NAMESPACE}/agent]" \
          "${DPGKE_GSA}"
      

   3. Weisen Sie dem spark-driver KSA die Rolle iam.workloadIdentityUser zu, damit es als GSA fungieren kann:

      gcloud iam service-accounts add-iam-policy-binding \
          --role=roles/iam.workloadIdentityUser \
          --member="serviceAccount:${PROJECT}.svc.id.goog[${DPGKE_NAMESPACE}/spark-driver]" \
          "${DPGKE_GSA}"
      

   4. Weisen Sie dem spark-executor KSA die Rolle iam.workloadIdentityUser zu, damit es als GSA fungieren kann:

      gcloud iam service-accounts add-iam-policy-binding \
          --role=roles/iam.workloadIdentityUser \
          --member="serviceAccount:${PROJECT}.svc.id.goog[${DPGKE_NAMESPACE}/spark-executor]" \
          "${DPGKE_GSA}"