Grup node driver Dataproc

Ringkasan

Resource NodeGroup Dataproc adalah grup node cluster Dataproc yang menjalankan peran yang ditetapkan. Halaman ini menjelaskan grup node driver, yang merupakan grup VM Compute Engine yang diberi peran Driver untuk menjalankan driver tugas di cluster Dataproc.

Kapan harus menggunakan grup node driver

  • Gunakan grup node driver hanya ketika Anda perlu menjalankan banyak tugas serentak di cluster bersama.
  • Tingkatkan resource node master sebelum menggunakan grup node driver untuk menghindari batasan grup node pengemudi.

Cara node driver membantu Anda menjalankan tugas serentak

Dataproc memulai proses driver tugas pada node master cluster Dataproc untuk setiap tugas. Selanjutnya, proses driver menjalankan driver aplikasi, seperti spark-submit, sebagai proses turunannya. Namun, jumlah tugas serentak yang berjalan pada master dibatasi oleh resource yang tersedia pada node master, dan karena node master Dataproc tidak dapat diskalakan, tugas dapat gagal atau dibatasi ketika resource node master tidak cukup untuk menjalankan tugas.

Grup node driver adalah grup node khusus yang dikelola oleh YARN, sehingga konkurensi tugas tidak dibatasi oleh resource node master. Dalam cluster dengan grup node {i>driver<i}, {i>driver<i} aplikasi berjalan pada {i>node<i} {i>driver<i}. Setiap node driver dapat menjalankan beberapa driver aplikasi jika node tersebut memiliki resource yang cukup.

Manfaat

Menggunakan cluster Dataproc dengan grup node driver memungkinkan Anda:

  • Skalakan resource driver tugas secara horizontal untuk menjalankan lebih banyak tugas serentak
  • Menskalakan resource driver secara terpisah dari resource pekerja
  • Dapatkan penurunan skala yang lebih cepat pada cluster gambar Dataproc 2.0+ dan yang lebih baru. Pada cluster ini, master aplikasi berjalan di dalam driver Spark dalam grup node pengemudi (spark.yarn.unmanagedAM.enabled disetel ke true secara default).
  • Sesuaikan startup node pengemudi. Anda dapat menambahkan {ROLE} == 'Driver' dalam skrip inisialisasi agar skrip tersebut melakukan tindakan untuk grup node driver dalam pemilihan node.

Batasan

  • Grup node tidak didukung di template alur kerja Dataproc.
  • Cluster grup node tidak dapat dihentikan, dimulai ulang, atau diskalakan otomatis.
  • Master aplikasi MapReduce berjalan pada worker node. Penurunan skala node pekerja dapat melambat jika Anda mengaktifkan penghentian halus.
  • Konkurensi tugas dipengaruhi oleh properti cluster dataproc:agent.process.threads.job.max. Misalnya, dengan tiga master dan properti ini yang ditetapkan ke nilai default 100, konkurensi tugas level cluster maksimum adalah 300.

Grup node driver dibandingkan dengan mode cluster Spark

Fitur Mode cluster Spark Grup node pengemudi
Penurunan skala node pekerja Driver yang berumur lama berjalan pada worker node yang sama dengan container yang berumur singkat, sehingga pengurangan skala pekerja yang menggunakan penghentian halus menjadi lambat. Node pekerja menurunkan skala lebih cepat saat driver berjalan di grup node.
Output driver yang di-streaming Memerlukan penelusuran di log YARN untuk menemukan node tempat driver dijadwalkan. Output driver di-streaming ke Cloud Storage, dan dapat dilihat di Konsol Google Cloud serta di output perintah gcloud dataproc jobs wait setelah tugas selesai.

Izin IAM grup node pengemudi

Izin IAM berikut dikaitkan dengan tindakan terkait grup node Dataproc berikut.

Izin Tindakan
dataproc.nodeGroups.create Membuat grup node Dataproc. Jika pengguna memiliki dataproc.clusters.create dalam project, izin ini akan diberikan.
dataproc.nodeGroups.get Dapatkan detail grup node Dataproc.
dataproc.nodeGroups.update Mengubah ukuran grup node Dataproc.

Operasi grup node pengemudi

Anda dapat menggunakan gcloud CLI dan Dataproc API untuk membuat, mendapatkan, mengubah ukuran, menghapus, dan mengirimkan tugas ke grup node driver Dataproc.

Membuat cluster grup node driver

Grup node driver dikaitkan dengan satu cluster Dataproc. Anda membuat grup node sebagai bagian dari pembuatan cluster Dataproc. Anda dapat menggunakan gcloud CLI atau Dataproc REST API untuk membuat cluster Dataproc dengan grup node driver.

gcloud

gcloud dataproc clusters create CLUSTER_NAME \
    --region=REGION \
    --driver-pool-size=SIZE \
    --driver-pool-id=NODE_GROUP_ID

Tanda yang diperlukan:

  • CLUSTER_NAME: Nama cluster, yang harus unik dalam project. Nama harus diawali dengan huruf kecil, dan dapat berisi hingga 51 huruf kecil, angka, dan tanda hubung. Bagian ini tidak boleh diakhiri dengan tanda hubung. Nama cluster yang dihapus dapat digunakan kembali.
  • REGION: Region tempat cluster akan berada.
  • SIZE: Jumlah node pengemudi dalam grup node. Jumlah node yang diperlukan bergantung pada beban tugas dan jenis mesin kumpulan driver. Jumlah node grup pengemudi minimum sama dengan total memori atau vCPU yang diperlukan oleh pengemudi tugas yang dibagi dengan memori mesin atau vCPU setiap kumpulan pengemudi.
  • NODE_GROUP_ID: Opsional dan direkomendasikan. ID harus unik di dalam cluster. Gunakan ID ini untuk mengidentifikasi grup driver dalam operasi mendatang, seperti mengubah ukuran grup node. Jika tidak ditentukan, Dataproc akan menghasilkan ID grup node.

Tanda yang direkomendasikan:

  • --enable-component-gateway: Tambahkan flag ini untuk mengaktifkan Gateway Komponen Dataproc, yang menyediakan akses ke antarmuka web YARN. Halaman Aplikasi dan Penjadwal UI YARN menampilkan status tugas dan cluster, memori antrean aplikasi, kapasitas inti, dan metrik lainnya.

Flag tambahan: Flag driver-pool opsional berikut dapat ditambahkan ke perintah gcloud dataproc clusters create untuk menyesuaikan grup node.

Tanda Nilai default
--driver-pool-id ID string, yang dihasilkan oleh layanan jika tidak ditetapkan oleh flag. ID ini dapat digunakan untuk mengidentifikasi grup node saat melakukan operasi kumpulan node di masa mendatang, seperti mengubah ukuran grup node.
--driver-pool-machine-type n1-standard-4
--driver-pool-accelerator Tidak ada default. Saat menentukan akselerator, jenis GPU wajib diisi; jumlah GPU bersifat opsional.
--num-driver-pool-local-ssds Tidak ada default
--driver-pool-local-ssd-interface Tidak ada default
--driver-pool-boot-disk-type pd-standard
--driver-pool-boot-disk-size 1000 GB
--driver-pool-min-cpu-platform AUTOMATIC

REST

Isi AuxiliaryNodeGroup sebagai bagian dari permintaan cluster.create Dataproc API.

Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:

  • PROJECT_ID: Wajib diisi. ID Project Google Cloud.
  • REGION: Wajib diisi. Region cluster Dataproc.
  • CLUSTER_NAME: Wajib diisi. Nama cluster, yang harus unik dalam project. Nama harus diawali dengan huruf kecil, dan dapat berisi hingga 51 huruf kecil, angka, dan tanda hubung. Nama ini tidak boleh diakhiri dengan tanda hubung. Nama cluster yang dihapus dapat digunakan kembali.
  • SIZE: Wajib diisi. Jumlah node dalam grup node.
  • NODE_GROUP_ID: Opsional dan direkomendasikan. ID di dalam cluster harus unik. Gunakan ID ini untuk mengidentifikasi grup driver dalam operasi di masa mendatang, seperti mengubah ukuran grup node. Jika tidak ditentukan, Dataproc akan menghasilkan ID grup node.

Opsi tambahan: Lihat NodeGroup.

Metode HTTP dan URL: 

POST https://dataproc.googleapis.com/v1/projects/PROJECT_ID/regions/REGION/clusters

Meminta isi JSON: 

{
  "clusterName":"CLUSTER_NAME",
  "config": {
    "softwareConfig": {
      "imageVersion":""
    },
    "endpointConfig": {
      "enableHttpPortAccess": true
    },
    "auxiliaryNodeGroups": [{
        "nodeGroup":{
            "roles":["DRIVER"],
            "nodeGroupConfig": {
                "numInstances": SIZE
             }
         },
        "nodeGroupId": "NODE_GROUP_ID"
    }]
  }
}

Untuk mengirim permintaan Anda, perluas salah satu opsi berikut:

Anda akan melihat respons JSON seperti berikut:

{
  "projectId": "PROJECT_ID",
  "clusterName": "CLUSTER_NAME",
  "config": {
    ...
    "auxiliaryNodeGroups": [
      {
        "nodeGroup": {
"name": "projects/PROJECT_ID/regions/REGION/clusters/CLUSTER_NAME/nodeGroups/NODE_GROUP_ID",
          "roles": [
            "DRIVER"
          ],
          "nodeGroupConfig": {
            "numInstances": SIZE,
            "instanceNames": [
              "CLUSTER_NAME-np-q1gp",
              "CLUSTER_NAME-np-xfc0"
            ],
            "imageUri": "https://www.googleapis.com/compute/v1/projects/cloud-dataproc-ci/global/images/dataproc-2-0-deb10-...-rc01",
            "machineTypeUri": "https://www.googleapis.com/compute/v1/projects/PROJECT_ID/zones/REGION-a/machineTypes/n1-standard-4",
            "diskConfig": {
              "bootDiskSizeGb": 1000,
              "bootDiskType": "pd-standard"
            },
            "managedGroupConfig": {
              "instanceTemplateName": "dataproc-2a8224d2-...",
              "instanceGroupManagerName": "dataproc-2a8224d2-..."
            },
            "minCpuPlatform": "AUTOMATIC",
            "preemptibility": "NON_PREEMPTIBLE"
          }
        },
        "nodeGroupId": "NODE_GROUP_ID"
      }
    ]
  },
}

Mendapatkan metadata cluster grup node driver

Anda dapat menggunakan perintah gcloud dataproc node-groups describe atau Dataproc API untuk mendapatkan metadata grup node driver.

gcloud

gcloud dataproc node-groups describe NODE_GROUP_ID \
    --cluster=CLUSTER_NAME \
    --region=REGION

Tanda yang diperlukan:

  • NODE_GROUP_ID: Anda dapat menjalankan gcloud dataproc clusters describe CLUSTER_NAME untuk mencantumkan ID grup node.
  • CLUSTER_NAME: Nama cluster.
  • REGION: Region cluster.

REST

Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:

  • PROJECT_ID: Wajib diisi. ID Project Google Cloud.
  • REGION: Wajib diisi. Region cluster.
  • CLUSTER_NAME: Wajib diisi. Nama cluster.
  • NODE_GROUP_ID: Wajib diisi. Anda dapat menjalankan gcloud dataproc clusters describe CLUSTER_NAME untuk menampilkan daftar ID grup node.

Metode HTTP dan URL: 

GET https://dataproc.googleapis.com/v1/projects/PROJECT_ID/regions/REGION/clusters/CLUSTER_NAMEnodeGroups/Node_GROUP_ID

Untuk mengirim permintaan, perluas salah satu opsi berikut:

Anda akan melihat respons JSON seperti berikut:

{
  "name": "projects/PROJECT_ID/regions/REGION/clusters/CLUSTER_NAME/nodeGroups/NODE_GROUP_ID",
  "roles": [
    "DRIVER"
  ],
  "nodeGroupConfig": {
    "numInstances": 5,
    "imageUri": "https://www.googleapis.com/compute/v1/projects/cloud-dataproc-ci/global/images/dataproc-2-0-deb10-...-rc01",
    "machineTypeUri": "https://www.googleapis.com/compute/v1/projects/PROJECT_ID/zones/REGION-a/machineTypes/n1-standard-4",
    "diskConfig": {
      "bootDiskSizeGb": 1000,
      "bootDiskType": "pd-standard"
    },
    "managedGroupConfig": {
      "instanceTemplateName": "dataproc-driver-pool-mcia3j656h2fy",
      "instanceGroupManagerName": "dataproc-driver-pool-mcia3j656h2fy"
    },
    "minCpuPlatform": "AUTOMATIC",
    "preemptibility": "NON_PREEMPTIBLE"
  }
}

Mengubah ukuran grup node driver

Anda dapat menggunakan perintah gcloud dataproc node-groups resize atau Dataproc API untuk menambahkan atau menghapus node driver dari grup node driver cluster.

gcloud

gcloud dataproc node-groups resize NODE_GROUP_ID \
    --cluster=CLUSTER_NAME \
    --region=REGION \
    --size=SIZE

Tanda yang diperlukan:

  • NODE_GROUP_ID: Anda dapat menjalankan gcloud dataproc clusters describe CLUSTER_NAME untuk mencantumkan ID grup node.
  • CLUSTER_NAME: Nama cluster.
  • REGION: Region cluster.
  • SIZE: Menentukan jumlah node driver baru dalam grup node.

Flag opsional:

  • --graceful-decommission-timeout=TIMEOUT_DURATION: Saat memperkecil skala grup node, Anda dapat menambahkan flag ini untuk menentukan penghentian yang halus TIMEOUT_DURATION guna menghindari penghentian langsung driver tugas. Rekomendasi: Tetapkan durasi waktu tunggu yang setidaknya sama dengan durasi tugas terlama yang berjalan di grup node (pemulihan driver yang gagal tidak didukung).

Contoh: perintah scale up NodeGroup gcloud CLI:

gcloud dataproc node-groups resize NODE_GROUP_ID \
    --cluster=CLUSTER_NAME \
    --region=REGION \
    --size=4

Contoh: perintah scale down NodeGroup gcloud CLI:

gcloud dataproc node-groups resize NODE_GROUP_ID \
    --cluster=CLUSTER_NAME \
    --region=REGION \
    --size=1 \
    --graceful-decommission-timeout="100s"

REST

Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:

  • PROJECT_ID: Wajib diisi. ID Project Google Cloud.
  • REGION: Wajib diisi. Region cluster.
  • NODE_GROUP_ID: Wajib diisi. Anda dapat menjalankan gcloud dataproc clusters describe CLUSTER_NAME untuk mencantumkan ID grup node.
  • SIZE: Wajib diisi. Jumlah node baru dalam grup node.
  • TIMEOUT_DURATION: Opsional. Saat memperkecil grup node, Anda dapat menambahkan gracefulDecommissionTimeout ke isi permintaan untuk menghindari penghentian langsung pengemudi tugas. Rekomendasi: Tetapkan durasi waktu tunggu yang setidaknya sama dengan durasi tugas terlama yang berjalan di grup node (pemulihan driver yang gagal tidak didukung).

    Contoh:

    { "size": SIZE,
  "gracefulDecommissionTimeout": "TIMEOUT_DURATION"
}

Metode HTTP dan URL: 

POST https://dataproc.googleapis.com/v1/projects/PROJECT_ID/regions/REGION/clusters/CLUSTER_NAME/nodeGroups/Node_GROUP_ID:resize

Meminta isi JSON: 

{
  "size": SIZE,
}

Untuk mengirim permintaan Anda, perluas salah satu opsi berikut:

Anda akan melihat respons JSON seperti berikut:

{
  "name": "projects/PROJECT_ID/regions/REGION/operations/OPERATION_ID",
  "metadata": {
    "@type": "type.googleapis.com/google.cloud.dataproc.v1.NodeGroupOperationMetadata",
    "nodeGroupId": "NODE_GROUP_ID",
    "clusterUuid": "CLUSTER_UUID",
    "status": {
      "state": "PENDING",
      "innerState": "PENDING",
      "stateStartTime": "2022-12-01T23:34:53.064308Z"
    },
    "operationType": "RESIZE",
    "description": "Scale "up or "down" a GCE node pool to SIZE nodes."
  }
}

Hapus cluster grup node driver

Saat Anda menghapus cluster Dataproc, grup node yang terkait dengan cluster tersebut akan dihapus.

Mengirim tugas

Anda dapat menggunakan perintah gcloud dataproc jobs submit atau Dataproc API untuk mengirim tugas ke cluster dengan grup node driver.

gcloud

gcloud dataproc jobs submit JOB_COMMAND \
    --cluster=CLUSTER_NAME \
    --region=REGION \
    --driver-required-memory-mb=DRIVER_MEMORY \
    --driver-required-vcores=DRIVER_VCORES \
    DATAPROC_FLAGS \
    -- JOB_ARGS

Tanda yang diperlukan:

  • JOB_COMMAND: Menentukan perintah tugas.
  • CLUSTER_NAME: Nama cluster.
  • DRIVER_MEMORY: Jumlah memori pendorong tugas dalam MB yang diperlukan untuk menjalankan tugas (lihat Kontrol Memori Yarn).
  • DRIVER_VCORES: Jumlah vCPU yang diperlukan untuk menjalankan tugas.

Tanda tambahan:

  • DATAPROC_FLAGS: Menambahkan flag gcloud dataproc jobs submit tambahan yang terkait dengan jenis tugas.
  • JOB_ARGS: Menambahkan argumen (setelah -- untuk diteruskan ke tugas.

Contoh: Anda dapat menjalankan contoh berikut dari sesi terminal SSH di cluster grup node driver Dataproc.

  • Tugas Spark untuk memperkirakan nilai pi:

    gcloud dataproc jobs submit spark \
    --cluster=CLUSTER_NAME \
    --region=REGION \
    --driver-required-memory-mb=2048 \
    --driver-required-vcores=2 \
    --class=org.apache.spark.examples.SparkPi \
    --jars=file:///usr/lib/spark/examples/jars/spark-examples.jar \
    -- 1000

  • Tugas jumlah kata Spark:

    gcloud dataproc jobs submit spark \
    --cluster=CLUSTER_NAME \
    --region=REGION \
    --driver-required-memory-mb=2048 \
    --driver-required-vcores=2 \
    --class=org.apache.spark.examples.JavaWordCount \
    --jars=file:///usr/lib/spark/examples/jars/spark-examples.jar \
    -- 'gs://apache-beam-samples/shakespeare/macbeth.txt'

  • Tugas PySpark untuk memperkirakan nilai pi:

    gcloud dataproc jobs submit pyspark \
    file:///usr/lib/spark/examples/src/main/python/pi.py \
    --cluster=CLUSTER_NAME \
    --region=REGION \
    --driver-required-memory-mb=2048 \
    --driver-required-vcores=2 \
    -- 1000

  • Tugas MapReduce TeraGen Hadoop:

    gcloud dataproc jobs submit hadoop \
    --cluster=CLUSTER_NAME \
    --region=REGION \
    --driver-required-memory-mb=2048 \
    --driver-required-vcores=2 \
    --jar file:///usr/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jar \
    -- teragen 1000 \
    hdfs:///gen1/test

REST

Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:

  • PROJECT_ID: Wajib diisi. ID Project Google Cloud.
  • REGION: Wajib diisi. Region cluster Dataproc
  • CLUSTER_NAME: Wajib diisi. Nama cluster, yang harus unik dalam project. Nama harus diawali dengan huruf kecil, dan dapat berisi hingga 51 huruf kecil, angka, dan tanda hubung. Nama ini tidak boleh diakhiri dengan tanda hubung. Nama cluster yang dihapus dapat digunakan kembali.
  • DRIVER_MEMORY: Wajib diisi. Jumlah memori pendorong tugas dalam MB yang diperlukan untuk menjalankan tugas (lihat Kontrol Memori Yarn).
  • DRIVER_VCORES: Wajib diisi. Jumlah vCPU yang diperlukan untuk menjalankan tugas.
Kolom tambahan: Tambahkan kolom lain yang terkait dengan jenis tugas dan argumen tugas (contoh permintaan mencakup kolom yang diperlukan untuk mengirimkan tugas Spark yang memperkirakan nilai pi).

Metode HTTP dan URL: 

POST https://dataproc.googleapis.com/v1/projects/PROJECT_ID/regions/REGION/jobs:submit

Meminta isi JSON: 

{
  "job": {
    "placement": {
    "clusterName": "CLUSTER_NAME",
    },
    "driverSchedulingConfig": {
      "memoryMb]": DRIVER_MEMORY,
      "vcores": DRIVER_VCORES
    },
    "sparkJob": {
      "jarFileUris": "file:///usr/lib/spark/examples/jars/spark-examples.jar",
      "args": [
        "10000"
      ],
      "mainClass": "org.apache.spark.examples.SparkPi"
    }
  }
}

Untuk mengirim permintaan Anda, perluas salah satu opsi berikut:

Anda akan melihat respons JSON seperti berikut:

{
  "reference": {
    "projectId": "PROJECT_ID",
    "jobId": "job-id"
  },
  "placement": {
    "clusterName": "CLUSTER_NAME",
    "clusterUuid": "cluster-Uuid"
  },
  "sparkJob": {
    "mainClass": "org.apache.spark.examples.SparkPi",
    "args": [
      "1000"
    ],
    "jarFileUris": [
      "file:///usr/lib/spark/examples/jars/spark-examples.jar"
    ]
  },
  "status": {
    "state": "PENDING",
    "stateStartTime": "start-time"
  },
  "jobUuid": "job-Uuid"
}

Lihat log tugas

Untuk melihat status tugas dan membantu men-debug masalah tugas, Anda dapat melihat log driver menggunakan gcloud CLI atau Konsol Google Cloud.

gcloud

Log driver tugas di-streaming ke output gcloud CLI atau Konsol Google Cloud selama eksekusi tugas. Log driver akan ada di bucket staging cluster Dataproc di Cloud Storage.

Jalankan perintah gcloud CLI berikut untuk menampilkan lokasi log driver di Cloud Storage:

gcloud dataproc jobs describe JOB_ID \
    --region=REGION

Lokasi Cloud Storage log driver tercantum sebagai driverOutputResourceUri dalam output perintah dalam format berikut:

driverOutputResourceUri: gs://CLUSTER_STAGING_BUCKET/google-cloud-dataproc-metainfo/CLUSTER_UUID/jobs/JOB_ID

Konsol

Untuk melihat log cluster grup node:

  1. Aktifkan Logging.

  2. Anda dapat menggunakan format kueri Logs Explorer berikut untuk menemukan log: 

    resource.type="cloud_dataproc_cluster"
resource.labels.project_id="PROJECT_ID"
resource.labels.cluster_name="CLUSTER_NAME"
log_name="projects/PROJECT_ID/logs/LOG_TYPE>"
    Ganti kode berikut;

    • PROJECT_ID: ID project Google Cloud.
    • CLUSTER_NAME: Nama cluster.
    • LOG_TYPE:
      • Log pengguna benang: yarn-userlogs
      • Log pengelola resource benang: hadoop-yarn-resourcemanager
      • Log pengelola node benang: hadoop-yarn-nodemanager

Memantau metrik

Driver tugas grup node Dataproc dijalankan dalam antrean turunan dataproc-driverpool-driver-queue pada partisi dataproc-driverpool.

Metrik grup node pengemudi

Tabel berikut mencantumkan metrik driver grup node terkait, yang dikumpulkan secara default untuk grup node driver.

Metrik grup node pengemudi Deskripsi
yarn:ResourceManager:DriverPoolsQueueMetrics:AvailableMB Jumlah memori yang tersedia dalam Mebibyte dalam dataproc-driverpool-driver-queue pada partisi dataproc-driverpool.
yarn:ResourceManager:DriverPoolsQueueMetrics:PendingContainers Jumlah penampung yang tertunda (dalam antrean) di dataproc-driverpool-driver-queue pada partisi dataproc-driverpool.

Metrik antrean turunan

Tabel berikut mencantumkan metrik antrean turunan. Metrik dikumpulkan secara default untuk grup node driver, dan dapat diaktifkan untuk pengumpulan pada cluster Dataproc mana pun.

Metrik antrean turunan Deskripsi
yarn:ResourceManager:ChildQueueMetrics:AvailableMB Jumlah memori yang tersedia dalam Mebibyte dalam antrean ini pada partisi default.
yarn:ResourceManager:ChildQueueMetrics:PendingContainers Jumlah container yang tertunda (dalam antrean) dalam antrean ini pada partisi default.
yarn:ResourceManager:ChildQueueMetrics:running_0 Jumlah tugas dengan runtime antara 0 dan 60 menit dalam antrean ini di bawah semua partisi.
yarn:ResourceManager:ChildQueueMetrics:running_60 Jumlah tugas dengan runtime antara 60 dan 300 menit dalam antrean ini di bawah semua partisi.
yarn:ResourceManager:ChildQueueMetrics:running_300 Jumlah tugas dengan runtime antara 300 dan 1440 menit dalam antrean ini di bawah semua partisi.
yarn:ResourceManager:ChildQueueMetrics:running_1440 Jumlah tugas dengan runtime lebih dari 1440 menit dalam antrean ini di semua partisi.
yarn:ResourceManager:ChildQueueMetrics:AppsSubmitted Jumlah aplikasi yang dikirim ke antrean ini dalam semua partisi.

Untuk melihat YARN ChildQueueMetrics dan DriverPoolsQueueMetrics di Konsol Google Cloud:

Proses debug driver tugas grup node

Bagian ini memberikan kondisi dan error grup node driver dengan rekomendasi untuk memperbaiki kondisi atau error.

Kondisi

  • Kondisi: yarn:ResourceManager:DriverPoolsQueueMetrics:AvailableMB mendekati 0. Hal ini menunjukkan bahwa antrean kumpulan driver cluster kehabisan memori.

    Rekomendasi:: Tingkatkan ukuran kumpulan pengemudi.

  • Kondisi: yarn:ResourceManager:DriverPoolsQueueMetrics:PendingContainers lebih besar dari 0. Hal ini dapat mengindikasikan bahwa antrean kumpulan driver cluster kehabisan memori dan YARN sedang mengantrekan tugas.

    Rekomendasi:: Tingkatkan ukuran kumpulan pengemudi.

Error

  • Error: Cluster <var>CLUSTER_NAME</var> requires driver scheduling config to run SPARK job because it contains a node pool with role DRIVER. Positive values are required for all driver scheduling config values.

    Rekomendasi: Tetapkan driver-required-memory-mb dan driver-required-vcores dengan angka positif.

  • Error: Container exited with a non-zero exit code 137.

    Rekomendasi: Tingkatkan driver-required-memory-mb untuk penggunaan memori tugas.