Utiliser la gestion des points de terminaison de modèle dans AlloyDB Studio

Ce document explique comment utiliser AlloyDB Studio pour enregistrer et appeler des points de terminaison de modèle. Vous pouvez ensuite utiliser les points de terminaison du modèle enregistré pour appeler des prédictions ou générer des embeddings.

Pour en savoir plus sur la gestion des points de terminaison de modèle, consultez Présentation de la gestion des points de terminaison de modèle.

Appeler les points de terminaison des modèles d'embedding préenregistrés

Les modèles d'embedding préenregistrés compatibles sont listés dans le volet "Explorateur" d'AlloyDB Studio.

  1. Dans la console Google Cloud , ouvrez la page AlloyDB.

    Accéder à AlloyDB

  2. Sélectionnez un cluster dans la liste.

  3. Dans le menu de navigation, cliquez sur AlloyDB Studio.

  4. Dans le volet Explorateur, développez google_ml, puis cliquez sur Modèles.

  5. Cliquez sur more_vert Afficher les actions à côté du modèle préenregistré, puis sur Appeler le modèle.

    La requête SQL permettant de générer des embeddings à l'aide du modèle préenregistré s'affiche.

  6. Saisissez le texte pour lequel vous souhaitez générer un embedding, puis cliquez sur Exécuter.

Pour en savoir plus sur les autres requêtes SQL utilisant des modèles d'embedding préenregistrés, consultez Générer des embeddings.

Enregistrer un point de terminaison de modèle

Vous pouvez utiliser le modèle généré par AlloyDB Studio pour enregistrer un point de terminaison de modèle. Une fois le point de terminaison du modèle enregistré, vous pouvez commencer à appeler des prédictions ou à générer des embeddings.

  1. Dans la console Google Cloud , ouvrez la page AlloyDB.

    Accéder à AlloyDB

  2. Sélectionnez un cluster dans la liste.

  3. Dans le menu de navigation, cliquez sur AlloyDB Studio.

  4. Dans le volet Explorateur, développez google_ml.

  5. Cliquez sur more_vert Afficher les actions à côté de Modèles, puis sur Enregistrer le modèle.

  6. Modifiez les paramètres requis en fonction du fournisseur du point de terminaison du modèle. Pour en savoir plus sur l'enregistrement d'un point de terminaison de modèle, consultez Enregistrer et appeler des modèles d'IA à distance.

  7. Cliquez sur Exécuter pour enregistrer le point de terminaison du modèle.

Pour en savoir plus sur les autres requêtes SQL utilisant des points de terminaison de modèles enregistrés, consultez Appeler des prédictions ou Générer des embeddings.

Modifier un point de terminaison de modèle préenregistré

Pour les points de terminaison de modèles préenregistrés, vous pouvez modifier les métadonnées du modèle si nécessaire.

  1. Dans la console Google Cloud , ouvrez la page AlloyDB.

    Accéder à AlloyDB

  2. Sélectionnez un cluster dans la liste.

  3. Dans le menu de navigation, cliquez sur AlloyDB Studio.

  4. Dans le volet Explorateur, développez google_ml, puis cliquez sur Modèles.

  5. Cliquez sur more_vert Afficher les actions à côté du modèle préenregistré, puis sur Modifier le modèle.

  6. Cliquez sur Exécuter pour enregistrer les métadonnées du point de terminaison du modèle.

Vous pouvez exécuter la fonction google_ml.alter_model() dans l'onglet Éditeur d'AlloyDB Studio pour modifier les métadonnées de modèle d'autres points de terminaison de modèle enregistrés. Pour en savoir plus, consultez la documentation de référence sur la gestion des points de terminaison de modèles.

Supprimer un point de terminaison de modèle préenregistré

  1. Dans la console Google Cloud , ouvrez la page AlloyDB.

    Accéder à AlloyDB

  2. Sélectionnez un cluster dans la liste.

  3. Dans le menu de navigation, cliquez sur AlloyDB Studio.

  4. Dans le volet Explorateur, développez google_ml, puis cliquez sur Modèles.

  5. Cliquez sur more_vert Afficher les actions à côté du modèle préenregistré, puis sur Supprimer le modèle.

  6. Cliquez sur Exécuter pour supprimer le point de terminaison du modèle.

Vous pouvez exécuter la fonction google_ml.drop_model() dans l'onglet Éditeur d'AlloyDB Studio pour supprimer d'autres points de terminaison de modèle enregistrés. Pour en savoir plus, consultez la documentation de référence sur la gestion des points de terminaison de modèles.

Étapes suivantes