Anwendung bereitstellen

Erstellen Sie zum Bereitstellen der Anwendung in Vertex AI eine neue Instanz von ReasoningEngine und übergeben Sie die Anwendungsklasse als Parameter. Wenn Sie Paketabhängigkeiten für Ihre Anwendung einführen möchten, verwenden Sie die folgenden Parameter:

  • requirements: Eine Liste externer PyPI. Jede Zeile muss ein einzelner String sein. Weitere Informationen finden Sie unter Dateiformat für Anforderungen.
  • extra_packages: Eine Liste der internen Paketabhängigkeiten. Diese Paketabhängigkeiten sind lokale Dateien oder Verzeichnisse, die den für die Anwendung erforderlichen lokalen Python-Paketen entsprechen.

Beachten Sie die folgenden Einschränkungen für die Reasoning Engine API:

  • Die Reasoning Engine API unterstützt nur Python-Orchestrierungs-Frameworks.
  • Die Reasoning Engine API wird nur in der Region us-central1 unterstützt.

Der folgende Code zeigt, wie Sie eine Anwendung bereitstellen können:

DISPLAY_NAME = "Demo Langchain Application"

remote_app = reasoning_engines.ReasoningEngine.create(
    reasoning_engines.LangchainAgent(
        model=model,
        tools=[get_exchange_rate],
        model_kwargs=model_kwargs,
    ),
    requirements=[
        "google-cloud-aiplatform[reasoningengine,langchain]",
    ],
    display_name=DISPLAY_NAME,
)
remote_app

Wenn Sie eine Anwendung in Reasoning Engine bereitstellen, übergeben Sie ein neues Objekt, anstatt ein vorhandenes Objekt zu verwenden. Auf diese Weise vermeiden Sie das Erstellen eines Objekts, das in der Methode .set_up nicht Pickle-fähige Daten wie Datenbankverbindungen und Dienste initialisiert hat.

Die Bereitstellung der Anwendung dauert mehrere Minuten. Es erstellt Container und aktiviert HTTP-Server im Back-End. Die Bereitstellungslatenz hängt von der Gesamtzeit ab, die für die Installation der erforderlichen Pakete benötigt wird.

Nach der Bereitstellung entspricht remote_app einer Instanz von reasoning_engines.LangchainAgent, die auf Vertex AI ausgeführt wird und abgefragt oder gelöscht werden kann. Es ist getrennt von lokalen Instanzen von reasoning_engines.LangchainAgent.

Jede bereitgestellte Anwendung hat eine eindeutige Kennung. Führen Sie den folgenden Befehl aus, um die resource_name-ID für Ihre Anwendung abzurufen:

remote_app.resource_name

resource_name hat das folgende Format: "projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID".

Nächste Schritte