Modèle Cloud Bigtable vers Vertex AI Vector Search

Le modèle des fichiers Cloud Bigtable vers Vertex AI Vector Search sur Cloud Storage crée un pipeline par lots qui lit les données d'une table Bigtable et les écrit dans un bucket Cloud Storage au format JSON. Utilisez ce modèle pour les embeddings vectoriels.

Conditions requises pour ce pipeline

  • La table Bigtable doit exister.
  • Le bucket Cloud Storage de sortie doit exister avant l'exécution du pipeline.

Paramètres de modèle

Paramètres obligatoires

  • bigtableProjectId: ID du projet Google Cloud contenant l'instance Bigtable dont vous souhaitez lire les données.
  • bigtableInstanceId: ID de l'instance Bigtable qui contient la table.
  • bigtableTableId: ID de la table Bigtable à lire.
  • outputDirectory: chemin d'accès Cloud Storage où les fichiers JSON de sortie sont stockés. Exemple :gs://your-bucket/your-path/
  • idColumn: nom complet de la colonne dans laquelle l'ID est stocké. Au format cf:col ou _key.
  • embeddingColumn: nom complet de la colonne dans laquelle les embeddings sont stockés. Au format cf:col ou _key.

Paramètres facultatifs

  • filenamePrefix: préfixe du nom de fichier JSON. Exemple : table1-. Si aucune valeur n'est spécifiée, la valeur par défaut est part.
  • crowdingTagColumn: nom complet de la colonne dans laquelle le tag de regroupement est stocké. Au format cf:col ou _key.
  • embeddingByteSize: taille en octets de chaque entrée du tableau des embeddings. Pour les valeurs flottantes, utilisez la valeur 4. Pour les valeurs doubles, utilisez la valeur 8. La valeur par défaut est 4.
  • allowRestrictsMappings: noms de colonnes complets, séparés par des virgules, pour les colonnes à utiliser comme restrictions d'autorisation, avec leurs alias. Au format cf:col->alias.
  • denyRestrictsMappings: noms de colonnes complets, séparés par des virgules, pour les colonnes à utiliser comme restrictions de refus, avec leurs alias. Au format cf:col->alias.
  • intNumericRestrictsMappings: noms de colonnes complets, séparés par des virgules, pour les colonnes à utiliser comme valeurs d'entier numeric_restricts, avec leurs alias. Au format cf:col->alias.
  • floatNumericRestrictsMappings: noms de colonnes complets, séparés par des virgules, pour les colonnes à utiliser comme valeurs flottantes numeric_restricts (4 octets), avec leurs alias. Au format cf:col->alias.
  • doubleNumericRestrictsMappings: noms de colonnes complets, séparés par des virgules, pour les colonnes à utiliser comme valeurs numeric_restricts (8 octets), avec leurs alias. Au format cf:col->alias.
  • bigtableAppProfileId: ID du profil d'application Cloud Bigtable à utiliser pour l'exportation. La valeur par défaut est Default.

Exécuter le modèle

Console

  1. Accédez à la page Dataflow Créer un job à partir d'un modèle.
    2. Accéder à la page Créer un job à partir d'un modèle
  2. Dans le champ Nom du job, saisissez un nom de job unique.
  3. Facultatif : pour Point de terminaison régional, sélectionnez une valeur dans le menu déroulant. La région par défaut est us-central1.

    Pour obtenir la liste des régions dans lesquelles vous pouvez exécuter un job Dataflow, consultez la page Emplacements Dataflow.

  4. Dans le menu déroulant Modèle Dataflow, sélectionnez the Cloud Bigtable to Vector Embeddings template.
  5. Dans les champs fournis, saisissez vos valeurs de paramètres.
  6. Cliquez sur Run Job (Exécuter la tâche).

gcloud CLI

Dans le shell ou le terminal, exécutez le modèle :

gcloud dataflow jobs run JOB_NAME \
    --gcs-location=gs://dataflow-templates-REGION_NAME/VERSION/Cloud_Bigtable_to_Vector_Embeddings \
    --project=PROJECT_ID \
    --region=REGION_NAME \
    --parameters \
       bigtableProjectId=BIGTABLE_PROJECT_ID,\
       bigtableInstanceId=BIGTABLE_INSTANCE_ID,\
       bigtableTableId=BIGTABLE_TABLE_ID,\
       filenamePrefix=FILENAME_PREFIX,\
       idColumn=ID_COLUMN,\
       embeddingColumn=EMBEDDING_COLUMN,\

Remplacez les éléments suivants :

  • JOB_NAME : nom de job unique de votre choix
  • VERSION : version du modèle que vous souhaitez utiliser

    Vous pouvez utiliser les valeurs suivantes :

  • REGION_NAME : région dans laquelle vous souhaitez déployer votre job Dataflow, par exemple us-central1
  • BIGTABLE_PROJECT_ID : ID du projet
  • BIGTABLE_INSTANCE_ID : ID de l'instance
  • BIGTABLE_TABLE_ID : ID de la table
  • FILENAME_PREFIX : préfixe du fichier JSON
  • ID_COLUMN : colonne "ID"
  • EMBEDDING_COLUMN : colonne des embeddings

API

Pour exécuter le modèle à l'aide de l'API REST, envoyez une requête HTTP POST. Pour en savoir plus sur l'API, ses autorisations et leurs champs d'application, consultez la section projects.templates.launch.

POST https://dataflow.googleapis.com/v1b3/projects/PROJECT_ID/locations/LOCATION/templates:launch?gcsPath=gs://dataflow-templates-LOCATION/VERSION/Cloud_Bigtable_to_Vector_Embeddings
{
   "jobName": "JOB_NAME",
   "parameters": {
     "bigtableProjectId": "BIGTABLE_PROJECT_ID",
     "bigtableInstanceId": "BIGTABLE_INSTANCE_ID",
     "bigtableTableId": "BIGTABLE_TABLE_ID",
     "filenamePrefix": "FILENAME_PREFIX",
     "idColumn": "ID_COLUMN",
     "embeddingColumn": "EMBEDDING_COLUMN",
   },
   "environment": { "maxWorkers": "10" }
}

Remplacez les éléments suivants :

  • PROJECT_ID : ID du projet Google Cloud dans lequel vous souhaitez exécuter le job Dataflow
  • JOB_NAME : nom de job unique de votre choix
  • VERSION : version du modèle que vous souhaitez utiliser

    Vous pouvez utiliser les valeurs suivantes :

  • LOCATION : région dans laquelle vous souhaitez déployer votre job Dataflow, par exemple us-central1
  • BIGTABLE_PROJECT_ID : ID du projet
  • BIGTABLE_INSTANCE_ID : ID de l'instance
  • BIGTABLE_TABLE_ID : ID de la table
  • FILENAME_PREFIX : préfixe du fichier JSON
  • ID_COLUMN : colonne "ID"
  • EMBEDDING_COLUMN : colonne des embeddings

Étape suivante