Die Bewertung bietet blockierende oder nicht blockierende Aufrufe. Wählen Sie einen Callback-Typ basierend auf Ihren Produktionsanforderungen aus.
Callback-Typ | Dienst Ihrer Wahl | Hinweis |
---|---|---|
Synchrone API (blockierend) | Online-Bewertungsdienst | Es entsteht kein Startaufwand. Sie können sie mit dem SDK aufrufen. Sie gibt während des Aufruferprozesses einen blockierenden Aufruf aus. |
Asynchrone API (nicht blockierend) | Pipeline-Bewertungsdienst | Der Startaufwand beträgt etwa fünf Minuten. Sie können sie mit dem SDK oder der Benutzeroberfläche aufrufen. Sie startet eine von Vertex AI verwaltete Pipeline in Ihrem Projekt. |
Rapid Eval SDK
Informationen zum Rapid Eval SDK finden Sie in der Einführung in die Bewertung im Vertex AI SDK.
Rapid Eval API
Informationen zur Rapid Eval API finden Sie unter Rapid Eval API.
Dienstkonten
Die Dienstkonten werden vom Online-Bewertungsdienst verwendet, um Vorhersagen vom Online-Vorhersagedienst für modellbasierte Bewertungsmesswerte abzurufen. Dieses Dienstkonto wird bei der ersten Anfrage an den Online-Bewertungsdienst bereitgestellt.
Name | Beschreibung | E-Mail-Adresse | Rolle |
---|---|---|---|
Vertex AI Rapid Eval Service Agent | Das Dienstkonto, mit dem Vorhersagen für die modellbasierte Bewertung abgerufen werden. | service-PROJECT_NUMBER@gcp-sa-ENV-vertex-eval.iam.gserviceaccount.com |
roles/aiplatform.rapidevalServiceAgent |
Dem Dienst-Agent für die schnelle Bewertung sind folgende Berechtigungen zugeordnet:
Rolle | Berechtigungen |
---|---|
Vertex AI Rapid Eval-Dienst-Agent (roles/aiplatform.rapidevalServiceAgent) | aiplatform.endpoints.predict |
Nächste Schritte
- Informationen zum schnellen Ausführen des Online-Bewertungsdienstes. Probieren Sie die Kurzanleitung zur Onlinebewertung aus.
- Weitere Informationen zur Leistungsbewertung
- Weitere Informationen zur berechnungsbasierten Bewertung
- Weitere Informationen zur paarweisen modellbasierten Bewertung.
- Foundation Model optimieren