Vorhersagen in Vertex AI abrufen

Eine Vorhersage ist die Ausgabe eines trainierten Modells für maschinelles Lernen. Diese Seite bietet einen Überblick über den Workflow zum Abrufen von Vorhersagen aus Ihren Modellen in Vertex AI.

Vertex AI bietet zwei Methoden zum Abrufen von Vorhersagen:

  • Onlinevorhersagen sind synchrone Anfragen an einen Modell-endpoint. Bevor Sie eine Anfrage senden, müssen Sie zuerst die model-Ressource in einem endpoint bereitstellen. Dadurch werden dem Modell Rechenressourcen zugeordnet, sodass es Onlinevorhersagen mit niedriger Latenz bereitstellen kann. Verwenden Sie Onlinevorhersagen, wenn Sie Anfragen als Reaktion auf Anwendungseingaben stellen oder wenn zeitnahe Inferenzen erforderlich sind.

  • Batchvorhersagen sind asynchrone Anfragen. Sie fordern einen batchPredictionsJob direkt von der model-Ressource an, ohne das Modell auf einem Endpunkt bereitstellen zu müssen. Verwenden Sie Batchvorhersagen, wenn Sie nicht sofort eine Antwort benötigen und akkumulierte Daten in einer einzigen Anfrage verarbeiten möchten.

Vorhersagen von benutzerdefinierten trainierten Modellen abrufen

Damit Sie Vorhersagen abrufen können, müssen Sie zuerst das Modell importieren. Nach dem Import wird sie zu einer model-Ressource, die in Vertex AI Model Registry sichtbar ist.

Anschließend erfahren Sie in der folgenden Dokumentation, wie Sie Vorhersagen abrufen:

Vorhersagen von AutoML-Modellen abrufen

Im Gegensatz zu benutzerdefinierten trainierten Modellen werden AutoML-Modelle nach dem Training automatisch in die Vertex AI Model Registry importiert.

Ansonsten ist der Workflow für AutoML-Modelle ähnlich, variiert jedoch je nach Datentyp und Modellziel geringfügig. Die Dokumentation zum Abrufen von AutoML-Vorhersagen finden Sie neben der AutoML-Dokumentation. Hier finden Sie Links zur Dokumentation:

Bild

Hier erfahren Sie, wie Sie Vorhersagen aus den folgenden Arten von AutoML-Bildmodellen abrufen:

Tabellarisch

In den folgenden Arten von tabellarischen AutoML-Modellen können Sie Vorhersagen abrufen:

Text

Hier erfahren Sie, wie Sie Vorhersagen aus den folgenden Arten von AutoML-Textmodellen abrufen:

Video

Hier erfahren Sie, wie Sie Vorhersagen aus den folgenden Arten von AutoML-Modellen abrufen: