Déployer l'application

Pour déployer l'application sur Vertex AI, créez une instance de ReasoningEngine et transmettez la classe d'application en tant que paramètre. Si vous souhaitez introduire des dépendances de package pour votre application, utilisez les paramètres suivants :

  • requirements : liste des dépendances de packages PyPI externes. Chaque ligne doit être une chaîne unique. Pour en savoir plus, consultez la page Format de fichier requis.
  • extra_packages : liste des dépendances de packages internes. Ces dépendances de packages sont des fichiers ou des répertoires locaux correspondant aux packages Python locaux requis par l'application.

Le code suivant montre comment déployer une application :

DISPLAY_NAME = "Demo Langchain Application"

remote_app = reasoning_engines.ReasoningEngine.create(
    reasoning_engines.LangchainAgent(
        model=model,
        tools=[get_exchange_rate],
        model_kwargs=model_kwargs,
    ),
    requirements=[
        "google-cloud-aiplatform[reasoningengine,langchain]",
    ],
    display_name=DISPLAY_NAME,
)
remote_app

Lorsque vous déployez une application sur le moteur de raisonnement, transmettez un nouvel objet au lieu de réutiliser un objet existant. De cette façon, vous évitez la création d'un objet ayant initialisé des données non pickles, telles que les connexions et les services de base de données dans sa méthode .set_up.

Le déploiement de l'application prend quelques minutes. Il crée des conteneurs et active les serveurs HTTP sur le backend. La latence de déploiement dépend du temps total nécessaire à l'installation des packages requis.

Une fois déployé, remote_app correspond à une instance de reasoning_engines.LangchainAgent qui s'exécute sur Vertex AI et peut être interrogée ou supprimée. Elle est distincte des instances locales de reasoning_engines.LangchainAgent.

Chaque application déployée possède un identifiant unique. Exécutez la commande suivante pour obtenir l'identifiant resource_name de votre application :

remote_app.resource_name

resource_name a le format suivant : "projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID".

Étapes suivantes