Sélection de zone automatique de Dataproc

Lorsque vous créez un cluster Dataproc, ses ressources utilisent des points de terminaison régionaux basés sur des zones Compute Engine. Lorsque vous choisissez une région, vous pouvez sélectionner une zone au sein de cette région ou l'omettre pour que la fonctionnalité de sélection de zone automatique de Dataproc en sélectionne une à votre place dans la région de votre choix. Une fois qu'une zone est sélectionnée, tous les nœuds de ce cluster sont déployés sur cette zone.

Réservations sélection de zone automatique et de ressources

Sélection de zone automatique donne la priorité à la création d'un cluster dans une zone avec des réservations de ressources, comme suit:

  • Si les ressources de cluster demandées peuvent être entièrement satisfaites par les ressources réservées et, si nécessaire, les ressources à la demande dans une zone, sélection de zone automatique consommera les ressources réservées et à la demande, puis créera le cluster dans cette zone.

  • Sélection de zone automatique priorise les zones à sélectionner en fonction du nombre total de réservations de cœurs de processeur (vCPU) dans une zone.

    Exemple:Une requête de création de cluster spécifie 20 n2-standard-2 et 1 n2-standard-64 (40 + 64 vCPUs demandés). Sélection de zone automatique donnera la priorité aux zones suivantes à sélectionner en fonction du nombre total de réservations de processeurs virtuels disponibles dans la zone:

    1. zone-c réservations disponibles: 3 n2-standard-2 et 1 n2-standard-64 (70 vCPUs)
    2. zone-b réservations disponibles: 1 n2-standard-64 (64 vCPUs)
    3. zone-a réservations disponibles: 25 n2-standard-2 (50 vCPUs)

      En supposant que chacune des zones ci-dessus dispose d'un vCPU à la demande supplémentaire et d'autres ressources suffisantes pour satisfaire la requête de cluster, sélection de zone automatique sélectionnera zone-c pour la création du cluster.

  • Si les ressources de cluster demandées ne peuvent pas être entièrement satisfaites par les ressources réservées et à la demande dans une zone, sélection de zone automatique crée le cluster dans la zone la plus susceptible de satisfaire la requête à l'aide de ressources à la demande.

Utiliser la sélection de zone automatique

Console

Pour créer un cluster Dataproc qui utilise la sélection de zone automatique:

  • Dans la console Google Cloud, ouvrez la page Dataproc Créer un cluster Dataproc sur Compute Engine. Le panneau Configurer le cluster est sélectionné.
  • Dans la section Emplacement :
    • Sélectionnez une région pour votre cluster.
    • Sous Zone, sélectionnez "Toutes".

Commande gcloud

Pour créer un cluster Dataproc qui utilise la sélection de zone automatique, exécutez la commande gcloud dataproc clusters create. Définissez l'option --region sur une région et omettez l'option --zone (ou laissez l'option vide: --zone= ou zone="").

gcloud dataproc clusters create cluster-name \
    --region=region \
    --zone="" \
    other args ...

API REST

Pour créer un cluster Dataproc qui utilise la sélection de zone automatique, créez une requête API clusters.create au format JSON, en laissant le champ gceClusterConfig.zoneUri vide. Dans le point de terminaison REST, https://dataproc.googleapis.com/v1/projects/projectId/regions/region/clusters, insérez un nom de région. La fonctionnalité de sélection de zone automatique de Dataproc choisit une zone pour le cluster dans la région spécifiée.

Utilisez des noms de ressources courts avec la sélection de zone automatique : lorsque vous spécifiez un URI de ressource, tel que machineTypeUri ou acceleratorTypeUri dans une requête API REST de création de cluster avec la sélection de zone automatique, utilisez un nom de ressource court sans spécification de zone, par exemple, "n1-standard-2" ou "nvidia-tesla-k80".