Plantilla de búsqueda vectorial de Bigtable a Vertex AI

La plantilla para Bigtable a archivos de búsqueda vectorial de Vertex AI en Cloud Storage crea una canalización por lotes que lee datos de una tabla de Bigtable y los escribe en un bucket de Cloud Storage en formato JSON. Usa esta plantilla para las incorporaciones vectoriales.

Requisitos de la canalización

  • La tabla de Bigtable debe existir.
  • El resultado del bucket de Cloud Storage de salida debe existir antes de ejecutar la canalización.

Parámetros de la plantilla

Parámetros obligatorios

  • bigtableProjectId: El ID del proyecto de Google Cloud que contiene la instancia de Bigtable de la que deseas leer datos.
  • bigtableInstanceId: Es el ID de la instancia de Bigtable que contiene la tabla.
  • bigtableTableId: El ID de la tabla de Bigtable desde la que se leerá.
  • filenamePrefix: El prefijo del nombre del archivo JSON. Por ejemplo: table1-. Si no se proporciona ningún valor, el valor predeterminado es part.
  • idColumn: El nombre de la columna completamente calificado en la que se almacena el ID. En el formato cf:col o _key.
  • embeddingColumn: El nombre de la columna completamente calificado en el que se almacenan las incorporaciones. En el formato cf:col o _key.

Parámetros opcionales

  • outputDirectory: La ruta de acceso de Cloud Storage en la que se almacenan los archivos JSON de salida. Por ejemplo, gs://your-bucket/your-path/
  • crowdingTagColumn: El nombre de la columna completamente calificado en el que se almacena la etiqueta de agrupamiento. En el formato cf:col o _key.
  • embeddingByteSize: El tamaño en bytes de cada entrada en el array de incorporaciones. Para el número de punto flotante, usa el valor 4. Para el doble, usa el valor 8. La configuración predeterminada es 4.
  • allowRestrictsMappings: Los nombres de columna separados por comas y completamente calificados para las columnas que se usarán como restricciones con sus alias. En el formato cf:col->alias.
  • denyRestrictsMappings: Los nombres de columna separados por comas y completamente calificados para las columnas que se usarán como restricciones con sus alias. En el formato cf:col->alias.
  • intNumericRestrictsMappings: Los nombres de columna completamente calificados y separados por comas de las columnas que se usarán como números enteros_restricts, con sus alias. En el formato cf:col->alias.
  • floatNumericRestrictsMappings: Los nombres de columna completamente calificados y separados por comas de las columnas que se usarán como números numéricos (4 bytes) de número de punto flotante, con sus alias. En el formato cf:col->alias.
  • doubleNumericRestrictsMappings: Los nombres de columna completamente calificados y separados por comas de las columnas que se usarán como números numéricos dobles (8 bytes), con sus alias. En el formato cf:col->alias.
  • bigtableAppProfileId: Es el ID del perfil de la app de Cloud Bigtable que se usará para la exportación. La configuración predeterminada es: predeterminada.

Ejecuta la plantilla

Console

  1. Ve a la página Crear un trabajo a partir de una plantilla de Dataflow.
  2. Ir a Crear un trabajo a partir de una plantilla
  3. En el campo Nombre del trabajo, ingresa un nombre de trabajo único.
  4. Opcional: Para Extremo regional, selecciona un valor del menú desplegable. La región predeterminada es us-central1.

    Para obtener una lista de regiones en las que puedes ejecutar un trabajo de Dataflow, consulta Ubicaciones de Dataflow.

  5. En el menú desplegable Plantilla de Dataflow, selecciona the Cloud Bigtable to Vector Embeddings template.
  6. En los campos de parámetros proporcionados, ingresa los valores de tus parámetros.
  7. Haz clic en Ejecutar trabajo.

gcloud CLI

En tu shell o terminal, ejecuta la plantilla:

gcloud dataflow jobs run JOB_NAME \
    --gcs-location=gs://dataflow-templates-REGION_NAME/VERSION/Cloud_Bigtable_to_Vector_Embeddings \
    --project=PROJECT_ID \
    --region=REGION_NAME \
    --parameters \
       bigtableProjectId=BIGTABLE_PROJECT_ID,\
       bigtableInstanceId=BIGTABLE_INSTANCE_ID,\
       bigtableTableId=BIGTABLE_TABLE_ID,\
       filenamePrefix=FILENAME_PREFIX,\
       idColumn=ID_COLUMN,\
       embeddingColumn=EMBEDDING_COLUMN,\

Reemplaza lo siguiente:

  • JOB_NAME: Es el nombre del trabajo que elijas
  • VERSION: Es la versión de la plantilla que deseas usar.

    Puedes usar los siguientes valores:

    • latest para usar la última versión de la plantilla, que está disponible en la carpeta superior non-dated en el bucket gs://dataflow-templates-REGION_NAME/latest/
    • el nombre de la versión, como 2023-09-12-00_RC00, para usar una versión específica de la plantilla, que se puede encontrar anidada en la carpeta superior con fecha correspondiente en el bucket gs://dataflow-templates-REGION_NAME/
  • REGION_NAME: La región en la que deseas implementar tu trabajo de Dataflow, por ejemplo, us-central1
  • BIGTABLE_PROJECT_ID: el ID del proyecto
  • BIGTABLE_INSTANCE_ID: El ID de la instancia
  • BIGTABLE_TABLE_ID: el ID de la tabla
  • FILENAME_PREFIX: El prefijo del archivo JSON
  • ID_COLUMN: la columna de ID
  • EMBEDDING_COLUMN: la columna de incorporaciones

API

Para ejecutar la plantilla con la API de REST, envía una solicitud POST HTTP. Para obtener más información de la API y sus permisos de autorización, consulta projects.templates.launch.

POST https://dataflow.googleapis.com/v1b3/projects/PROJECT_ID/locations/LOCATION/templates:launch?gcsPath=gs://dataflow-templates-LOCATION/VERSION/Cloud_Bigtable_to_Vector_Embeddings
{
   "jobName": "JOB_NAME",
   "parameters": {
     "bigtableProjectId": "BIGTABLE_PROJECT_ID",
     "bigtableInstanceId": "BIGTABLE_INSTANCE_ID",
     "bigtableTableId": "BIGTABLE_TABLE_ID",
     "filenamePrefix": "FILENAME_PREFIX",
     "idColumn": "ID_COLUMN",
     "embeddingColumn": "EMBEDDING_COLUMN",
   },
   "environment": { "maxWorkers": "10" }
}

Reemplaza lo siguiente:

  • PROJECT_ID: El ID del proyecto de Google Cloud en el que deseas ejecutar el trabajo de Dataflow.
  • JOB_NAME: Es el nombre del trabajo que elijas
  • VERSION: Es la versión de la plantilla que deseas usar.

    Puedes usar los siguientes valores:

    • latest para usar la última versión de la plantilla, que está disponible en la carpeta superior non-dated en el bucket gs://dataflow-templates-REGION_NAME/latest/
    • el nombre de la versión, como 2023-09-12-00_RC00, para usar una versión específica de la plantilla, que se puede encontrar anidada en la carpeta superior con fecha correspondiente en el bucket gs://dataflow-templates-REGION_NAME/
  • LOCATION: La región en la que deseas implementar tu trabajo de Dataflow, por ejemplo, us-central1
  • BIGTABLE_PROJECT_ID: el ID del proyecto
  • BIGTABLE_INSTANCE_ID: El ID de la instancia
  • BIGTABLE_TABLE_ID: el ID de la tabla
  • FILENAME_PREFIX: El prefijo del archivo JSON
  • ID_COLUMN: la columna de ID
  • EMBEDDING_COLUMN: la columna de incorporaciones

¿Qué sigue?