Présentation

Les grands modèles de langage (LLM) sont capables de résoudre de nombreux types de problèmes. Ils sont toutefois restreints par les limites suivantes :

  • Ils sont figés après l'entraînement, ce qui entraîne une obsolescence.
  • Ils ne peuvent ni interroger ni modifier des données externes.

Les extensions et Vertex AI (preview) peuvent résoudre ces problèmes. Les extensions sont des connexions à des API externes qui traitent des données en temps réel et effectuent des actions réelles. Le service d'extension Vertex AI enregistre, gère et exécute ces extensions. Il peut être lié à une application qui traite les requêtes des utilisateurs et communique avec un LLM.

Chaque fois qu'une application reçoit une requête utilisateur, elle fournit au LLM un ensemble d'extensions et les opérations que ces extensions peuvent effectuer. Si le modèle détermine qu'il doit déléguer le traitement des requêtes à une extension, il fournit à l'application un appel d'extension demandé ainsi que les valeurs de paramètre associées. L'application relaie cette requête au service d'extension, qui exécute ensuite l'extension. Le processus se termine lorsque le service d'extension envoie le résultat de cette opération à l'application, qui le renvoie ensuite au modèle.

Avec Vertex AI Search, vous pouvez créer, déployer et gérer des extensions qui connectent des LLM aux API de systèmes externes. Ces systèmes peuvent fournir des LLM avec des données en temps réel et effectuer des actions de traitement de données en leur nom.

Pour en savoir plus sur les cas d'utilisation et les avantages des extensions et du service d'extension Vertex AI, consultez la section Cas d'utilisation et avantages.

Pour savoir comment enregistrer, gérer et exécuter des extensions avec le service d'extensions Vertex AI, consultez la page Enregistrer, gérer et exécuter des extensions.

Cas d'utilisation et avantages

Voici quelques cas d'utilisation des extensions:

  • Générer et exécuter du code.
  • Interroger des sites Web et synthétiser des informations.
  • Répondre à des questions en fonction des informations d'un ensemble de données spécifiques à l'entreprise.
  • Interroger et analyser des datastores.

Le service d'extensions Vertex AI offre les avantages suivants:

  • Contrôles d'entreprise: autorisations et contrôles de sécurité de gestion de l'authentification et des accès (IAM).
  • Sécurité des données: accords contractuels indiquant que vos données privées ne seront pas divulguées ou utilisées lors de l'entraînement du modèle.
  • Accords de performances: accords contractuels indiquant que la plate-forme fournit des fonctionnalités et des temps d'activité spécifiques.
  • Extensions privées : les utilisateurs autorisés de votre organisation ou un partenaire de confiance peuvent utiliser des extensions pour accéder à des données internes sensibles et effectuer des actions, telles que la recherche dans des bases de connaissances internes ou la réalisation de tâches RH.
  • Intégrations de produits Google: intégration à des produits Google tels que Vertex AI Search, BigQuery et des modèles spécialisés.

Étapes suivantes