SQL do Dataflow

O Dataflow não vai mais oferecer suporte ao Dataflow SQL. Essa é uma alteração interruptiva.

  • Desde 31 de julho de 2024, não é mais possível acessar o SQL do Dataflow no console do Google Cloud.
  • A partir de 31 de janeiro de 2025, não será possível usar o SQL do Dataflow no CLI do Google Cloud.

Substituição: SQL do Beam

O Beam SQL permite que você consulta PCollections limitada e ilimitada com instruções SQL. Se estiver trabalhando em um notebook do Apache Beam, use o beam_sql mágico personalizado do IPython para acelerar o desenvolvimento do pipeline.

O SQL do Beam tem uma funcionalidade semelhante à do Dataflow SQL, usando instruções SQL para consultar PCollections.

Migração

Recomendamos que você comece a migrar sua consulta SQL do Dataflow para o SQL do Beam assim que possível.

A migração para o SQL do Beam é uma alteração interruptiva afeta qualquer job ou consulta do Dataflow SQL. Você precisará reconstruir essas jobs e consultas.

Com essa mudança, não é possível criar novos jobs do Dataflow SQL. No entanto, isso não afetará os jobs do Dataflow SQL que já estão em execução.

Para informações sobre como criar consultas no SQL do Beam, consulte Envie o SQL e o comando mágico do beam_sql e Visão geral do SQL do Beam.