Entre 15 de outubro e 15 de novembro de 2024, alguns dos metadados do BigQuery armazenados no Dataplex Catalog vão mudar.
Essa mudança traz os metadados armazenados no Dataplex Catalog para consistência com os metadados do BigQuery e de outras origens do Google Cloud.
Se você tiver cargas de trabalho que dependem dos metadados do BigQuery, será necessário ajustá-las para preservar a continuidade.
Para mais informações sobre os metadados do Dataplex Catalog, consulte Visão geral do Dataplex Catalog.
Escopo das mudanças
As mudanças descritas nesta seção se aplicam a todas as entradas do BigQuery. As entradas do BigQuery são entradas que pertencem a um tipo de entrada no sistema do BigQuery.
Os seguintes métodos de API são afetados por essas mudanças:
As mudanças nos valores de tipo de dados e de subtipo de tabela também são refletidas no console do Google Cloud, na página "Detalhes da entrada".
Valores de tipo de dados
Os valores do tipo de dados estão mudando para o tipo de aspecto SchemaAspect
. O campo
dataType
foi afetado.
Valor antes da mudança | Valor após a alteração |
---|---|
INT64 |
INTEGER |
FLOAT64 |
FLOAT |
STRUCT |
RECORD |
BOOL |
BOOLEAN |
Nomes de recursos
O nome do recurso está mudando para o campo de entrada de nível superior
entrySource.resource
. O campo é modificado para conter o ID do recurso
em vez do nome completo do recurso.
Valor antes da mudança | Valor após a alteração |
---|---|
//bigquery.googleapis.com/projects/PROJECT_ID/datasets/DATASET/tables/TABLE |
projects/PROJECT_ID/datasets/DATASET/tables/TABLE |
Valores de tipo ancestral
O valor do tipo ancestral está mudando para o campo de entrada de nível superior
entrySource.ancestors.type
.
Valor antes da mudança | Valor após a mudança |
---|---|
655216118709.global.Dataset |
dataplex-types.global.bigquery-dataset |
O que é preciso fazer
O período de lançamento começa em 15 de outubro de 2024 e termina em 15 de novembro de 2024. As mudanças nos metadados do BigQuery serão aplicadas gradualmente ao longo do período de lançamento.
Veja o que você precisa fazer:
- Antes de 15 de outubro de 2024: atualize seus trabalhos para interpretar a versão legada e a versão atualizada dos metadados.
Durante o período de lançamento: as entradas do BigQuery podem capturar a versão legada ou a versão atualizada dos metadados. As cargas de trabalho precisam interpretar as duas versões.
Para determinar se uma entrada do BigQuery usa os metadados atualizados, no objeto
aspects
da entrada, localize o tipo de aspecto relevante. No objetoaspectSource
do tipo de aspecto, o campodata_version
indica a versão dos metadados. Por exemplo, para uma entradabigquery-table
, consulte o campoEntry.aspects.dataplex-types.global.bigquery-table.aspectSource.data_version
.Usa a versão legada de metadados Usa a versão atualizada dos metadados ""
(string vazia)"Ingestion/1.0.0"
Após 15 de novembro de 2024: opcionalmente, atualize seus trabalhos para interpretar apenas a nova versão dos metadados.
Suporte
Em caso de dúvidas, entre em contato dataplex-msa-support@google.com.