Tutoriel : Exécuter une inférence sur une table d'objets à l'aide d'un modèle de vecteur de caractéristiques

Ce tutoriel explique comment créer une table d'objets basée sur les images de l'ensemble de données sur les fleurs, puis comment exécuter une inférence sur cette table d'objets à l'aide du modèle MobileNet V3.

Modèle MobileNet V3

Le modèle MobileNet V3 analyse des fichiers image et renvoie un tableau de vecteurs de caractéristiques. Le tableau de vecteurs de caractéristiques est une liste d'éléments numériques qui décrivent les caractéristiques des images analysées. Chaque vecteur de caractéristiques décrit un espace de caractéristiques multidimensionnel et fournit les coordonnées de l'image dans cet espace. Vous pouvez utiliser les informations des vecteurs de caractéristiques sur une image pour affiner sa classification, par exemple en utilisant la similarité cosinus pour regrouper des images similaires.

L'entrée du modèle MobileNet V3 utilise un Tensor de DType tf.float32 sous la forme [-1, 224, 224, 3]. Le résultat est un tableau de Tensors de tf.float32 sous la forme [-1, 1024].

Autorisations requises

• Pour créer l'ensemble de données, vous devez disposer de l'autorisation bigquery.datasets.create.

• Pour créer la ressource de connexion, vous devez disposer des autorisations suivantes :

  • bigquery.connections.create
  • bigquery.connections.get

• Pour accorder des autorisations au compte de service de la connexion, vous devez disposer de l'autorisation suivante :

  • resourcemanager.projects.setIamPolicy

• Pour créer la table d'objets, vous devez disposer des autorisations suivantes :

  • bigquery.tables.create
  • bigquery.tables.update
  • bigquery.connections.delegate

• Pour créer le bucket, vous devez disposer de l'autorisation storage.buckets.create.

• Pour importer l'ensemble de données et le modèle dans Cloud Storage, vous devez disposer des autorisations storage.objects.create et storage.objects.get.

• Pour charger le modèle dans BigQuery ML, vous devez disposer des autorisations suivantes :

  • bigquery.jobs.create
  • bigquery.models.create
  • bigquery.models.getData
  • bigquery.models.updateData

• Pour exécuter une inférence, vous devez disposer des autorisations suivantes :

  • bigquery.tables.getData sur la table d'objets
  • bigquery.models.getData sur le modèle
  • bigquery.jobs.create

Coûts

Dans ce document, vous utilisez les composants facturables suivants de Google Cloud :

• BigQuery: You incur storage costs for the object table you create in BigQuery.
• BigQuery ML: You incur costs for the model you create and the inference you perform in BigQuery ML.
• Cloud Storage: You incur costs for the objects you store in Cloud Storage.

Obtenez une estimation des coûts en fonction de votre utilisation prévue à l'aide du simulateur de coût. Les nouveaux utilisateurs de Google Cloud peuvent bénéficier d'un essai gratuit.

Pour plus d'informations sur la tarification de stockage BigQuery, consultez les tarifs de stockage dans la documentation BigQuery.

Pour en savoir plus sur les tarifs de BigQuery ML, consultez la page Tarifs de BigQuery ML dans la documentation BigQuery.

Pour en savoir plus sur les tarifs de Cloud Storage, consultez la page Tarifs de Cloud Storage.

Avant de commencer

1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

3. Make sure that billing is enabled for your Google Cloud project.

4. Enable the BigQuery and BigQuery Connection API APIs.

   Enable the APIs

5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

6. Make sure that billing is enabled for your Google Cloud project.

7. Enable the BigQuery and BigQuery Connection API APIs.

   Enable the APIs

Créer une réservation

Pour utiliser un modèle importé avec une table d'objets, vous devez créer une réservation qui utilise l'édition Enterprise ou Enterprise Plus de BigQuery, puis créer une attribution de réservation qui utilise le type de job QUERY.

Créer un ensemble de données

Créez un ensemble de données nommé mobilenet_inference_test :

SQL

1. Accédez à la page BigQuery.

   Accéder à BigQuery

2. Dans le volet Éditeur, exécutez l'instruction SQL suivante :

   CREATE SCHEMA `PROJECT_ID.mobilenet_inference_test`;

   en remplaçant PROJECT_ID par l'ID de votre projet :

bq

1. Dans la console Google Cloud, activez Cloud Shell.

   Activer Cloud Shell

2. Exécutez la commande bq mk pour créer l'ensemble de données :

   bq mk --dataset --location=us PROJECT_ID:resnet_inference_test

   Remplacez PROJECT_ID par l'ID du projet.

Créer une connexion

Créez une connexion nommée lake-connection :

Console

1. Accédez à la page BigQuery.

   Accéder à BigQuery

2. Cliquez sur Ajouter, puis sur Source de données externe.

3. Dans la liste Type de connexion, sélectionnez BigLake et fonctions distantes (ressource Cloud).

4. Dans le champ ID de connexion, saisissez lake-connection.

5. Cliquez sur Créer une connexion.

6. Dans le volet Explorateur, développez votre projet, développez le nœud Connexions externes, puis sélectionnez la connexion us.lake-connection.

7. Dans le volet Informations de connexion, copiez la valeur du champ ID du compte de service. Vous avez besoin de ces informations pour accorder une autorisation au compte de service de la connexion sur le bucket Cloud Storage que vous créez à l'étape suivante.

bq

1. Dans Cloud Shell, exécutez la commande bq mk pour créer la connexion :

   bq mk --connection --location=us --connection_type=CLOUD_RESOURCE \
   lake-connection
   

2. Exécutez la commande bq show pour récupérer les informations concernant la connexion :

   bq show --connection us.lake-connection
   

3. Dans la colonne properties, copiez la valeur de la propriété serviceAccountId et enregistrez-la. Vous avez besoin de ces informations pour accorder des autorisations au compte de service de la connexion.

Créer un bucket Cloud Storage

1. Créez un bucket Cloud Storage.
2. Créez deux dossiers dans le bucket, l'un nommé mobilenet pour les fichiers du modèle et l'autre nommé flowers pour l'ensemble de données.

Accorder des autorisations au compte de service de la connexion

Console

1. Accédez à la page IAM et administration.

   Accéder à IAM et administration

2. Cliquez sur Accorder l'accès.

   La boîte de dialogue Ajouter des comptes principaux s'ouvre.

3. Dans le champ Nouveaux comptes principaux, saisissez l'ID du compte de service que vous avez copié précédemment.

4. Dans le champ Sélectionnez un rôle, sélectionnez Cloud Storage, puis Lecteur d'objets Storage.

5. Cliquez sur Enregistrer.

gcloud

Dans Cloud Shell, exécutez la commande gcloud storage buckets add-iam-policy-binding :

gcloud storage buckets add-iam-policy-binding gs://BUCKET_NAME \
--member=serviceAccount:MEMBER \
--role=roles/storage.objectViewer

Remplacez MEMBER par l'ID du compte de service que vous avez copié précédemment. Remplacez BUCKET_NAME par le nom du bucket que vous venez de créer.

Pour plus d'informations, consultez la section Ajouter un compte principal à une stratégie au niveau du bucket.

Remarque : L'application des nouvelles autorisations peut prendre jusqu'à une minute.

Importer l'ensemble de données dans Cloud Storage

Récupérez les fichiers de l'ensemble de données et rendez-les disponibles dans Cloud Storage :

1. Téléchargez l'ensemble de données sur les fleurs sur votre ordinateur local.
2. Décompressez le fichier flower_photos.tgz.
3. Importez le dossier flower_photos dans le dossier flowers du bucket que vous avez créé précédemment.
4. Une fois l'importation terminée, supprimez le fichier LICENSE.txt du dossier flower_photos.

Créer une table d'objets

Créez une table d'objets nommée sample_images basée sur l'ensemble de données sur les fleurs que vous avez importé :

SQL

1. Accédez à la page BigQuery.

   Accéder à BigQuery

2. Dans le volet Éditeur, exécutez l'instruction SQL suivante :

   CREATE EXTERNAL TABLE mobilenet_inference_test.sample_images
   WITH CONNECTION `us.lake-connection`
   OPTIONS(
     object_metadata = 'SIMPLE',
     uris = ['gs://BUCKET_NAME/flowers/*']);

   Remplacez BUCKET_NAME par le nom du bucket que vous avez créé précédemment.

bq

Dans Cloud Shell, exécutez la commande bq mk pour créer la connexion :

bq mk --table \
--external_table_definition='gs://BUCKET_NAME/flowers/*@us.lake-connection' \
--object_metadata=SIMPLE \
mobilenet_inference_test.sample_images

Remplacez BUCKET_NAME par le nom du bucket que vous avez créé précédemment.

Importer le modèle dans Cloud Storage

Récupérez les fichiers du modèle et rendez-les disponibles dans Cloud Storage :

1. Téléchargez le modèle MobileNet V3 sur votre ordinateur local. Vous obtenez ainsi un fichier saved_model.pb et un dossier variables pour le modèle.
2. Importez le fichier saved_model.pb et le dossier variables dans le dossier mobilenet du bucket que vous avez créé précédemment.

Charger le modèle dans BigQuery ML

1. Accédez à la page BigQuery.

   Accéder à BigQuery

2. Dans le volet Éditeur, exécutez l'instruction SQL suivante :

   CREATE MODEL `mobilenet_inference_test.mobilenet`
   OPTIONS(
     model_type = 'TENSORFLOW',
     model_path = 'gs://BUCKET_NAME/mobilenet/*');

   Remplacez BUCKET_NAME par le nom du bucket que vous avez créé précédemment.

Inspecter le modèle

Inspectez le modèle importé pour afficher ses champs d'entrée et de sortie :

1. Accédez à la page BigQuery.

   Accéder à BigQuery

2. Dans le volet Explorateur, développez votre projet, l'ensemble de données mobilenet_inference_test, puis le nœud Modèles.

3. Cliquez sur le modèle mobilenet.

4. Dans le volet du modèle qui s'affiche, cliquez sur l'onglet Schéma.

5. Consultez la section Étiquettes. Cela permet d'identifier les champs générés par le modèle. Dans le cas présent, la valeur du nom de champ est feature_vector.

6. Examinez la section Caractéristiques. Cela permet d'identifier les champs qui doivent être saisis dans le modèle. Vous les référencez dans l'instruction SELECT pour la fonction ML.DECODE_IMAGE. Dans le cas présent, la valeur du nom de champ est inputs.

Exécuter une inférence

Exécutez l'inférence sur la table d'objets sample_images à l'aide du modèle mobilenet :

1. Accédez à la page BigQuery.

   Accéder à BigQuery

2. Dans le volet Éditeur, exécutez l'instruction SQL suivante :

   SELECT *
   FROM ML.PREDICT(
     MODEL `mobilenet_inference_test.mobilenet`,
     (SELECT uri, ML.RESIZE_IMAGE(ML.DECODE_IMAGE(data), 224, 224, FALSE) AS inputs
     FROM mobilenet_inference_test.sample_images)
   );

   Le résultat doit ressembler à ce qui suit :

   --------------------------------------------------------------------------------------------------------------
   | feature_vector         | uri                                                        | inputs               |
   —-------------------------------------------------------------------------------------------------------------
   | 0.850297749042511      | gs://mybucket/flowers/dandelion/3844111216_742ea491a0.jpg  | 0.29019609093666077  |
   —-------------------------------------------------------------------------------------------------------------
   | -0.27427938580513      |                                                            | 0.31372550129890442  |
   —-------------------------                                                            ------------------------
   | -0.23189745843410492   |                                                            | 0.039215687662363052 |
   —-------------------------                                                            ------------------------
   | -0.058292809873819351  |                                                            | 0.29985997080802917  |
   —-------------------------------------------------------------------------------------------------------------
   

Effectuer un nettoyage

Attention : La suppression d'un projet entraîne les effets décrits ci-dessous :

• Tout le contenu du projet est supprimé. Si vous avez utilisé un projet existant pour les tâches décrites dans ce document et que vous le supprimez, vous supprimerez également tout autre travail effectué dans le projet.
• Les ID de projets personnalisés sont perdus. Lorsque vous avez créé ce projet, vous avez peut-être créé un ID de projet personnalisé que vous souhaitez utiliser à l'avenir. Pour conserver les URL qui utilisent l'ID de projet, telle qu'une URL appspot.com, supprimez les ressources sélectionnées dans le projet au lieu de supprimer l'ensemble du projet.

Si vous envisagez d'explorer plusieurs architectures, tutoriels et guides de démarrage rapide, réutiliser des projets peut vous aider à ne pas dépasser les limites de quotas des projets.

1. In the Google Cloud console, go to the Manage resources page.

   Go to Manage resources

2. In the project list, select the project that you want to delete, and then click Delete.
3. In the dialog, type the project ID, and then click Shut down to delete the project.