Laufzeitversionen von Dataproc Serverless für Spark

Unterstützte Dataproc Serverless für Spark-Laufzeitversionen

Version Zuletzt aktualisiert Veröffentlicht am Unterstützt bis Verfügbar bis Hinweise
Spark-Laufzeit 2.2 LTS 31.10.2024 2024/03/27 2026-09-30 2028-09-30 GA-Version (General Availability). Dies ist die Standardversion.
Spark-Laufzeitversion 1.2 LTS 31.10.2024 2024/03/27 2026-09-30 2028-09-30 GA-Version (General Availability).
Spark-Laufzeitversion 1.1 LTS 31.10.2024 27.01.2023 2025-07-31 31.07.2027 GA-Version (General Availability).

Dataproc Serverless für Spark-Laufzeitversion auswählen

Die aktuelle Standard-Dataproc Serverless-Laufzeitversion finden Sie unter Unterstützte Dataproc Serverless for Spark-Laufzeitversionen. Sie können die Google Cloud Console, die gcloud CLI und die Dataproc API verwenden, um beim Einreichen einer Batch-Arbeitslast eine andere Laufzeitversion auszuwählen.

Console

  1. Öffnen Sie in der Google Cloud Console die Dataproc-Seite Batch erstellen.
  2. Wählen Sie unter Container im Abschnitt Laufzeitversion eine der aufgeführten Dataproc Serverless-Laufzeitversionen aus.

gcloud

Verwenden Sie das Flag dataproc batches submit --version, um eine Dataproc Serverless-Laufzeitversion anzugeben.

Beispiel:

gcloud dataproc batches submit SPARK_WORKLOAD_TYPE \
    --region=REGION \
    --version=VERSION \
    other args ...

Ersetzen Sie Folgendes:

API

Verwenden Sie das Feld RuntimeConfig.version als Teil eines batches.create-API-Aufrufs, um eine Dataproc Serverless-Laufzeitversion anzugeben.

Nicht unterstützte Laufzeitversionen von Dataproc Serverless für Spark

Die folgenden Dataproc Serverless-Versionen werden nicht unterstützt.

Version Umfasst Veröffentlicht am Zuletzt aktualisiert Verfügbar bis Hinweise
Spark-Laufzeit 2.1 Apache Spark 3.4.0
Cloud Storage-Connector 2.2.20
BigQuery-Connector 0.28.1
Java 17
Conda 23.3
Python 3.11
R 4.2
Scala 2.13
2022/01/19 30.05.2024 2026-04-30 Seit dem 30. Mai 2024 nicht mehr unterstützt. 2.1.50 war die letzte veröffentlichte Version.
Spark Runtime 2.0 Apache Spark 3.3.4
Cloud Storage Connector 2.2.20
Java 17
Conda 22.9
Python 3.10
R 4.1
Scala 2.13
21.10.2022 2024-08-22 2026-08-31 Seit dem 22. August 2024 nicht mehr unterstützt. 2.0.84 war die letzte veröffentlichte Version.
Spark-Laufzeit 1.0 Apache Spark 3.2.3
Cloud Storage Connector 2.2.11
Conda 4.11
Java 11
Python 3.9
R 4.1
Scala 2.12.17
2022/01/19 2023-02-03 2025-01-31 Seit dem 3. Februar 2023 nicht mehr unterstützt. 1.0.29 war die letzte veröffentlichte Version.