Erstellen Sie zum Bereitstellen der Anwendung in Vertex AI eine neue Instanz von ReasoningEngine
und übergeben Sie die Anwendungsklasse als Parameter. Wenn Sie Paketabhängigkeiten für Ihre Anwendung einführen möchten, verwenden Sie die folgenden Parameter:
requirements
: Eine Liste externer PyPI. Jede Zeile muss ein einzelner String sein. Weitere Informationen finden Sie unter Dateiformat für Anforderungen.extra_packages
: Eine Liste der internen Paketabhängigkeiten. Diese Paketabhängigkeiten sind lokale Dateien oder Verzeichnisse, die den für die Anwendung erforderlichen lokalen Python-Paketen entsprechen.
Beachten Sie die folgenden Einschränkungen für die Reasoning Engine API:
- Die Reasoning Engine API unterstützt nur Python-Orchestrierungs-Frameworks.
- Die Reasoning Engine API wird nur in der Region
us-central1
unterstützt.
Der folgende Code zeigt, wie Sie eine Anwendung bereitstellen können:
DISPLAY_NAME = "Demo Langchain Application"
remote_app = reasoning_engines.ReasoningEngine.create(
reasoning_engines.LangchainAgent(
model=model,
tools=[get_exchange_rate],
model_kwargs=model_kwargs,
),
requirements=[
"google-cloud-aiplatform[reasoningengine,langchain]",
],
display_name=DISPLAY_NAME,
)
remote_app
Wenn Sie eine Anwendung in Reasoning Engine bereitstellen, übergeben Sie ein neues Objekt, anstatt ein vorhandenes Objekt zu verwenden. Auf diese Weise vermeiden Sie das Erstellen eines Objekts, das in der Methode .set_up
nicht Pickle-fähige Daten wie Datenbankverbindungen und Dienste initialisiert hat.
Die Bereitstellung der Anwendung dauert mehrere Minuten. Es erstellt Container und aktiviert HTTP-Server im Back-End. Die Bereitstellungslatenz hängt von der Gesamtzeit ab, die für die Installation der erforderlichen Pakete benötigt wird.
Nach der Bereitstellung entspricht remote_app
einer Instanz von reasoning_engines.LangchainAgent
, die auf Vertex AI ausgeführt wird und abgefragt oder gelöscht werden kann. Es ist getrennt von lokalen Instanzen von reasoning_engines.LangchainAgent
.
Jede bereitgestellte Anwendung hat eine eindeutige Kennung. Führen Sie den folgenden Befehl aus, um die resource_name
-ID für Ihre Anwendung abzurufen:
remote_app.resource_name
resource_name
hat das folgende Format: "projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID".