Versões de ambiente de execução sem servidor do Dataproc

Versões compatíveis do Dataproc sem servidor

Versão Última atualização Liberada em Compatível até Disponível até Observações
Ambiente de execução do Spark 2.2 LTS 18/04/2024 27/03/2024 30/09/2026 30/09/2028 Versão de disponibilidade geral.
Ambiente de execução do Spark 2.1 18/04/2024 05/05/2023 31/05/2024 31/05/2026 Versão de disponibilidade geral.
Ambiente de execução do Spark 2.0 18/04/2024 21/10/2022 30/06/2024 30/06/2026 Versão de disponibilidade geral. Esta é a versão padrão.
Ambiente de execução do Spark 1.2 LTS 18/04/2024 27/03/2024 30/09/2026 30/09/2028 Versão de disponibilidade geral.
Ambiente de execução do Spark 1.1 LTS 18/04/2024 27/01/2023 31/07/2025 31/07/2027 Versão de disponibilidade geral.

Como escolher uma versão do ambiente de execução sem servidor do Dataproc

A versão padrão atual do ambiente de execução sem servidor do Dataproc está listada em Versões compatíveis sem servidor do Dataproc. É possível usar o console do Google Cloud, CLI gcloud e a API Dataproc para escolher uma versão de ambiente de execução diferente ao enviar uma carga de trabalho em lote.

Console

  1. Abra a página Criar lote do Dataproc no console do Google Cloud.
  2. Em Contêiner, na seção Versão do ambiente de execução, selecione uma das versões de ambiente de execução sem servidor do Dataproc listadas.

gcloud

Use a sinalização dataproc batches submit --version para especificar uma versão do ambiente de execução sem servidor do Dataproc.

Exemplo:

gcloud dataproc batches submit JOB_TYPE \
    --region=REGION \
    --version=VERSION (for example, 2.1)
    other args ...

API

Use o campo RuntimeConfig.version como parte de uma chamada de API batches.create para especificar uma versão de ambiente de execução sem servidor do Dataproc.

Versões incompatíveis do Dataproc sem servidor

As seguintes versões do Dataproc sem servidor não são compatíveis.

Versão Inclui Liberada em Última atualização Disponível até Observações
Ambiente de execução do Spark 1.0 Apache Spark 3.2.3
Conector do Cloud Storage 2.2.11
Conda 4.11
Java 11
Python 3.9
R 4.1
Scala 2.12.17
19/01/2022 03/02/2023 31/01/2025 Não compatíveis desde 03/02/2023. A versão 1.0.29 foi a última lançada.