Usa destinos y fuentes de datos

En esta página, se explica cómo consultar datos y escribir resultados de consultas mediante Dataflow SQL.

Dataflow SQL puede consultar las siguientes fuentes:

Dataflow SQL puede escribir resultados de consultas en los siguientes destinos:

Pub/Sub

Consulta temas de Pub/Sub

Para consultar un tema de Pub/Sub con Dataflow SQL, completa los siguientes pasos:

  1. Agrega el tema de Pub/Sub como fuente de Dataflow.

  2. Asigna un esquema al tema de Pub/Sub.

  3. Usa el tema de Pub/Sub en una consulta de Dataflow SQL.

Agrega un tema de Pub/Sub

Puedes agregar un tema de Pub/Sub como una fuente de Dataflow mediante la IU de Dataflow SQL.

  1. Ve a la IU de Dataflow SQL.

    Ir a la IU de Dataflow SQL

  2. En el panel de navegación, haz clic en la lista desplegable Add Data (Agregar datos) y selecciona Cloud Dataflow sources (Fuentes de Cloud Dataflow).

    La lista desplegable Add data (Agregar datos) con las fuentes de Cloud Dataflow seleccionadas

  3. En el panel Add Cloud Dataflow source (Agregar fuente de Cloud Dataflow), selecciona Cloud Pub/Sub topics (Temas de Cloud Pub/Sub) y busca el tema.

    En la siguiente captura de pantalla, se muestra una búsqueda del tema transactions de Pub/Sub:

    Panel Add Cloud Dataflow source (Agregar fuente de Cloud Dataflow) con la opción de tema de Pub/Sub seleccionada, la consulta de búsqueda de transacciones completada y el tema de transacciones seleccionado.

  4. Haga clic en Add (Agregar).

Después de agregar la fuente de Dataflow como una fuente de Dataflow, el tema de Pub/Sub aparece en la sección Recursos del menú de navegación.

Para encontrar el tema, expande Fuentes de Cloud Dataflow > Temas de Cloud Pub/Sub.

Asigna un esquema del tema de Pub/Sub

Esquemas de temas de Pub/Sub coherentes de los siguientes campos:

  • Un campo event_timestamp.

    Las marcas de tiempo del evento de Pub/Sub identifican cuándo se publican los mensajes. Las marcas de tiempo se agregan a los mensajes de Pub/Sub de forma automática.

  • Un campo para cada par clave-valor en los mensajes de Pub/Sub.

    Por ejemplo, el esquema para el mensaje {"k1":"v1", "k2":"v2"} incluye dos campos STRING, llamados k1k2.

Puedes asignar un esquema a un tema de Pub/Sub mediante Cloud Console o la herramienta de línea de comandos de gcloud.

Console

Para asignar un esquema a un tema de Pub/Sub, completa los siguientes pasos:

  1. Selecciona el tema en el panel Resources (Recursos).

  2. En la pestaña Schema (Esquema), haz clic en Edit schema (Editar esquema) para abrir el panel lateral Schema (Esquema) que muestra los campos del esquema.

    El panel lateral para agregar o editar un esquema

  3. Haz clic en Add field (Agregar campo) a fin de agregar un campo al esquema o puedes activar o desactivar el botón Edit as text (Editar como texto) para copiar y pegar todo el texto del esquema.

    Por ejemplo, el siguiente es el texto del esquema para un tema de Pub/Sub con transacciones de venta.

    [
      {
          "description": "Pub/Sub event timestamp",
          "name": "event_timestamp",
          "mode": "REQUIRED",
          "type": "TIMESTAMP"
      },
      {
          "description": "Transaction time string",
          "name": "tr_time_str",
          "mode": NULLABLE,
          "type": "STRING"
      },
      {
          "description": "First name",
          "name": "first_name",
          "mode": NULLABLE,
          "type": "STRING"
      },
      {
          "description": "Last name",
          "name": "last_name",
          "mode": NULLABLE,
          "type": "STRING"
      },
      {
          "description": "City",
          "name": "city",
          "mode": NULLABLE,
          "type": "STRING"
      },
      {
          "description": "State",
          "name": "state",
          "mode": NULLABLE,
          "type": "STRING"
      },
      {
          "description": "Product",
          "name": "product",
          "mode": NULLABLE,
          "type": "STRING"
      },
      {
          "description": "Amount of transaction",
          "name": "amount",
          "mode": NULLABLE,
          "type": "FLOAT64"
      }
    ]
    
  4. Haz clic en Submit (Enviar).

  5. Haz clic en Preview topic (Vista previa del tema) para examinar el contenido de tus mensajes y confirmar que coincidan con el esquema que definiste (opcional).

    El panel de detalles en la IU de Dataflow SQL con un tema de Pub/Sub seleccionado y el botón Vista previa del tema destacado

gcloud

Para asignar un esquema a un tema de Pub/Sub, completa los siguientes pasos:

  1. Crea un archivo JSON con el texto del esquema.

    Por ejemplo, el siguiente es el texto del esquema para un tema de Pub/Sub con transacciones de venta.

    [
      {
          "description": "Pub/Sub event timestamp",
          "name": "event_timestamp",
          "mode": "REQUIRED",
          "type": "TIMESTAMP"
      },
      {
          "description": "Transaction time string",
          "name": "tr_time_str",
          "mode": NULLABLE,
          "type": "STRING"
      },
      {
          "description": "First name",
          "name": "first_name",
          "mode": NULLABLE,
          "type": "STRING"
      },
      {
          "description": "Last name",
          "name": "last_name",
          "mode": NULLABLE,
          "type": "STRING"
      },
      {
          "description": "City",
          "name": "city",
          "mode": NULLABLE,
          "type": "STRING"
      },
      {
          "description": "State",
          "name": "state",
          "mode": NULLABLE,
          "type": "STRING"
      },
      {
          "description": "Product",
          "name": "product",
          "mode": NULLABLE,
          "type": "STRING"
      },
      {
          "description": "Amount of transaction",
          "name": "amount",
          "mode": NULLABLE,
          "type": "FLOAT64"
      }
    ]
     ```
    
  2. Asigna el esquema al tema de Pub/Sub mediante el comando gcloud beta data-catalog entries.

    gcloud beta data-catalog entries update \
     --lookup-entry='pubsub.topic.`project-id`.`topic-name`'
     --schema-from-file=file-path
    
  3. Confirma que tu esquema se asignó de forma correcta al tema de Pub/Sub (opcional).

    gcloud beta data-catalog entries lookup \
     'pubsub.topic.`project-id`.`topic-name`'
    

Usa un tema de Pub/Sub

Para hacer referencia a un tema de Pub/Sub en una consulta de Dataflow SQL, usa los siguientes identificadores:

pubsub.topic.`project-id`.`topic-name`

Los identificadores deben seguir la estructura léxica de Dataflow SQL. Usa acentos graves para incluir identificadores con caracteres que no sean letras, números o guiones bajos.

Por ejemplo, la siguiente consulta hace una selección en el tema de Dataflow daily.transactions en el proyecto dataflow-sql.

SELECT *
FROM pubsub.topic.`dataflow-sql`.`daily.transactions`

Escribe en temas de Pub/Sub

Puedes escribir los resultados de las consultas en un tema de Pub/Sub mediante Cloud Console o la herramienta de línea de comandos de gcloud.

Console

Para escribir resultados de consulta en un tema de Pub/Sub, ejecuta la consulta con la IU de Dataflow SQL:

  1. Ve a la IU de Dataflow SQL.

    Ir a la IU de Dataflow SQL

  2. Ingresa la consulta de Dataflow SQL en el editor de consultas.

  3. Haz clic en Crear trabajo de Cloud Dataflow para abrir un panel de opciones de trabajo.

  4. En la sección Destino del panel, selecciona Tipo de resultado > Tema de Cloud Pub/Sub.

  5. Haz clic en Seleccionar un tema de Cloud Pub/Sub y elige un tema.

  6. Haz clic en Crear.

gcloud

Para escribir los resultados de las consultas en un tema de Pub/Sub, usa la marca --pubsub-topic del comando gcloud dataflow sql query.

gcloud dataflow sql query \
  --job-name=job-name \
  --region=region \
  --pubsub-topic='pubsub.topic.`project-id`.`topic-name`' \
  'query'

El esquema de los temas de Pub/Sub de destino debe coincidir con el esquema de los resultados de la consulta. Si un tema de Pub/Sub de destino no tiene un esquema, se asigna un esquema que coincida con los resultados de la consulta de forma automática.

Cloud Storage

Consulta conjuntos de archivos de Cloud Storage

Para consultar un conjunto de archivos de Cloud Storage con Dataflow SQL, completa los siguientes pasos:

  1. Crea un conjunto de archivos de Data Catalog para Dataflow SQL.

  2. Agrega el conjunto de archivos de Cloud Storage como fuente de Dataflow.

  3. Usa el conjunto de archivos de Cloud Storage en una consulta de Dataflow SQL.

Crea conjuntos de archivos de Cloud Storage

Para crear un conjunto de archivos de Cloud Storage, consulta Crea grupos de entradas y conjuntos de archivos.

El conjunto de archivos de Cloud Storage debe tener un esquema y solo contener archivos CSV sin filas de encabezado.

Agrega conjuntos de archivos de Cloud Storage

Puedes agregar un conjunto de archivos de Cloud Storage como fuente de Dataflow con la IU de Dataflow SQL.

  1. Ve a la IU de Dataflow SQL.

    Ir a la IU de Dataflow SQL

  2. En el panel de navegación, haz clic en la lista desplegable Add Data (Agregar datos) y selecciona Cloud Dataflow sources (Fuentes de Cloud Dataflow).

    La lista desplegable Add data (Agregar datos) con las fuentes de Cloud Dataflow seleccionadas

  3. En el panel Agregar fuente de Cloud Dataflow, selecciona Conjuntos de archivos de Cloud Storage y busca el tema.

  4. Haga clic en Agregar.

Después de agregar el conjunto de archivos de Cloud Storage como fuente de Dataflow, el conjunto de archivos de Cloud Storage aparece en la sección Recursos del menú de navegación.

Para encontrar el conjunto de archivos, expande Fuentes de Cloud Dataflow > Temas de Cloud Storage.

Usa un conjunto de archivos de Cloud Storage

Para hacer referencia a una tabla de Cloud Storage en una consulta de Dataflow SQL, usa los siguientes identificadores:

datacatalog.entry.`project-id`.region.`entry-group`.`fileset-name`

Los identificadores deben seguir la estructura léxica de Dataflow SQL. Usa acentos graves para incluir identificadores con caracteres que no sean letras, números o guiones bajos.

Por ejemplo, en la siguiente consulta, se hace una selección en el conjunto de archivos de Cloud Storage daily.registrations en el proyecto dataflow-sql y el grupo de entrada my-fileset-group.

SELECT *
FROM datacatalog.entry.`dataflow-sql`.`us-central1`.`my-fileset-group`.`daily.registrations`

BigQuery

Consulta tablas de BigQuery

Para consultar una tabla de BigQuery con Dataflow SQL, completa los siguientes pasos:

  1. Crea una tabla de BigQuery para Dataflow SQL.

  2. Usa la tabla de BigQuery en una consulta de Dataflow SQL.

No es necesario agregar una tabla de BigQuery como fuente de Dataflow.

Crea una tabla de BigQuery

Si deseas crear una tabla de BigQuery para Dataflow SQL, consulta Crea una tabla vacía con una definición de esquema.

Usa una tabla de BigQuery en una consulta

Para hacer referencia a una tabla de BigQuery en una consulta de Dataflow SQL, usa los siguientes identificadores:

bigquery.table.`project-id`.`dataset-name`.`table-name`

Los identificadores deben seguir la estructura léxica de Dataflow SQL. Usa acentos graves para incluir identificadores con caracteres que no sean letras, números o guiones bajos.

Por ejemplo, la siguiente consulta hace una selección en la tabla de BigQuery us_state_salesregions en el conjunto de datos dataflow_sql_dataset y el proyecto dataflow-sql.

SELECT *
FROM bigquery.table.`dataflow-sql`.dataflow_sql_dataset.us_state_salesregions

Escribe en una tabla de BigQuery

Puedes escribir los resultados de las consultas en una consulta de Dataflow SQL mediante Cloud Console o la herramienta de línea de comandos de gcloud.

Console

Para escribir los resultados de la consulta en una consulta de Dataflow SQL, ejecuta la consulta mediante la IU de Dataflow SQL:

  1. Ingresa la consulta de Dataflow SQL en el editor de consultas.

  2. Haz clic en Crear trabajo de Cloud Dataflow para abrir un panel de opciones de trabajo.

  3. En la sección Destino del panel, selecciona Tipo de salida > BigQuery.

  4. Haz clic en ID del conjunto de datos y selecciona un Conjunto de datos cargado o Crear conjunto de datos nuevo.

  5. En el campo Nombre de la tabla, ingresa una tabla de destino.

  6. Elige cómo cargar datos en una tabla de BigQuery (opcional).

    • Escribir si está vacía: Escribe los datos solo si la tabla está vacía (predeterminado).
    • Agregar a la tabla: Agrega los datos al final de la tabla.
    • Reemplazar tabla: Borra todos los datos existentes en una tabla antes de escribir los datos nuevos.
  7. Haz clic en Crear.

gcloud

Para escribir resultados de consultas en una tabla de BigQuery, usa la marca --bigquery-table del comando gcloud dataflow sql query.

gcloud dataflow sql query \
  --job-name=job-name \
  --region=region \
  --bigquery-dataset=dataset-name \
  --bigquery-table=table-name \
  'query'

Puedes usar la marca --bigquery-write-disposition y los siguientes valores para elegir cómo escribir datos en una tabla de BigQuery.

  • write-empty: Escribe los datos solo si la tabla está vacía (predeterminado).
  • write-append: Agrega los datos al final de la tabla.
  • write-truncate: Borra todos los datos existentes de una tabla antes de escribir los datos nuevos.
gcloud dataflow sql query \
  --job-name=job-name \
  --region=region \
  --bigquery-dataset=dataset-name \
  --bigquery-table=table-name \
  --bigquery-write-disposition=write-mode
  'query'

El esquema de la tabla de BigQuery de destino debe coincidir con el esquema de los resultados de la consulta. Si una tabla de BigQuery de destino no tiene un esquema, se asigna un esquema que coincida con los resultados de la consulta de forma automática.