In diesem Dokument wird beschrieben, wie Sie das Vertex AI SDK für ABAP in Ihrer SAP-Umgebung installieren und konfigurieren.
Installation
Lokale oder beliebige Cloud-Version
Wenn Sie die Version 1.8 der lokalen oder Cloud-Version des ABAP SDK for Google Cloud installieren, wird das Vertex AI SDK für ABAP für Sie installiert. Informationen zu den Installationsschritten finden Sie unter Lokale oder Cloud-Version des ABAP SDK for Google Cloud installieren und konfigurieren.
Wenn Sie bereits Version 1.7 oder eine frühere Version der lokalen oder einer beliebigen Cloud-Version des ABAP SDK for Google Cloud verwenden, aktualisieren Sie Ihr SDK auf die neueste Version, um das Vertex AI SDK for ABAP zu erhalten. Weitere Informationen finden Sie unter ABAP SDK for Google Cloud aktualisieren.
SAP BTP-Edition
Wenn Sie Version 1.1 der SAP BTP-Version des ABAP SDK for Google Cloud installieren, wird das Vertex AI SDK für ABAP für Sie installiert. Informationen zu den Installationsschritten finden Sie unter SAP BTP-Version des ABAP SDK for Google Cloud installieren und konfigurieren.
Uns ist bewusst, dass der Zugriff auf Vertex AI und Cloud-Ressourcen für einige Entwickler möglicherweise eingeschränkt ist. Informationen zum Erstellen von Prototypen und zum Experimentieren mit minimalem Aufwand finden Sie unter Schnelles Prototyping mit Gemini.
Vertex AI API aktivieren
Aktivieren Sie die Vertex AI API in Ihrem Google Cloud -Projekt.
Informationen zum Aktivieren von Google Cloud APIs finden Sie unter APIs aktivieren.
Authentifizierung
Lokale oder beliebige Cloud-Version
Nachdem Sie die Authentifizierung für den Zugriff auf Google Cloud APIs in Ihrer lokalen oder einer beliebigen Cloud-Version des ABAP SDK for Google Cloud eingerichtet haben, verwendet das Vertex AI SDK für ABAP dieselbe Authentifizierungsmethode für den Zugriff auf die Vertex AI API. Informationen zum Einrichten der Authentifizierung in der lokalen oder einer beliebigen Cloud-Version des ABAP SDK for Google Cloud finden Sie unter Authentifizierung.
Notieren Sie sich den Clientschlüssel, den Sie im Rahmen der Einrichtung der Authentifizierung erstellt haben. Sie verwenden diesen Clientschlüssel, wenn Sie Parameter zur KI-Modellgenerierung und -Suchparameter konfigurieren.
SAP BTP-Edition
Nachdem Sie die Authentifizierung für den Zugriff auf Google Cloud APIs in Ihrer SAP BTP-Version des ABAP SDK for Google Cloud eingerichtet haben, verwendet das Vertex AI SDK für ABAP dieselbe Authentifizierungsmethode für den Zugriff auf die Vertex AI API. Informationen zum Einrichten der Authentifizierung in der SAP BTP-Version des ABAP SDK for Google Cloud finden Sie unter Authentifizierung.
Notieren Sie sich den Clientschlüssel, den Sie im Rahmen der Einrichtung der Authentifizierung erstellt haben. Sie verwenden diesen Clientschlüssel, wenn Sie Parameter zur KI-Modellgenerierung und -Suchparameter konfigurieren.
IAM-Berechtigungen
Achten Sie darauf, dass das dedizierte Dienstkonto für den API-Zugriff, das Sie in der Clientschlüsseltabelle konfiguriert haben, Zugriff auf die Vertex AI-Ressourcen hat.
Vertex AI
Wenn Sie die Vertex AI-Ressourcen verwenden möchten, müssen Sie dem speziellen Dienstkonto, dem Sie Berechtigungen für den Zugriff auf die Vertex AI API gewährt haben, die Rolle Vertex AI User (roles/aiplatform.user) zuweisen.
Wenn Sie bestimmte Berechtigungen zum Erstellen, Ändern und Bereitstellen von Artefakten angeben müssen, gewähren Sie gegebenenfalls bestimmte Vertex AI-IAM-Berechtigungen.
Vertex AI Feature Store
Wenn Sie den Vertex AI Feature Store verwenden möchten, müssen Sie dem Dienstkonto die folgenden Rollen zuweisen:
| KI-Funktionen | Erforderliche IAM-Rollen |
|---|---|
| Vertex AI Feature Store |
Prüfen, ob dem Launchpad Fiori-Apps hinzugefügt wurden
Lokale oder beliebige Cloud-Version
Sie können diesen Abschnitt überspringen, da er sich nicht auf die lokale oder eine Cloud-Version des ABAP SDK for Google Cloud bezieht.
SAP BTP-Edition
Damit Ihre Administratoren und Entwickler die Parameter für die Modellgenerierung und die Parameter für die Vektorsuche konfigurieren können, bietet die SAP BTP-Version des ABAP SDK for Google Cloud SAP Fiori-Apps. Das SDK bietet auch nur zur Anzeige bestimmte Fiori-Apps, in denen die verwalteten Parameter angezeigt werden.
Sie fügen diese Fiori-Apps Ihrem Launchpad hinzu, während Sie die SAP BTP-Version des ABAP SDK for Google Cloud installieren. Prüfen Sie, ob diese Apps in Ihrem Launchpad verfügbar sind. Weitere Informationen finden Sie unter Launchpad Fiori-Apps hinzufügen.
Parameter für die Modellgenerierung konfigurieren
Large Language Models (LLM) sind Deep-Learning-Modelle, die mit riesigen Textdaten trainiert wurden. Ein Modell enthält Parameterwerte, die steuern, wie das Modell eine Antwort generiert. Sie können unterschiedliche Ergebnisse aus dem Modell erhalten, indem Sie die Parameterwerte ändern.
Zum Definieren der Generierungsparameter für ein Modell verwendet das Vertex AI SDK für ABAP die Tabelle /GOOG/AI_CONFIG.
So konfigurieren Sie die Generierungsparameter für ein Modell:
Lokale oder beliebige Cloud-Version
Führen Sie in der SAP-GUI den Transaktionscode
/GOOG/SDK_IMGaus.Alternativ können Sie den Transaktionscode
SPROausführen und dann auf SAP-Referenz-IMG klicken.Klicken Sie auf ABAP SDK for Google Cloud > Grundlegende Einstellungen > Vertex AI SDK: Parameter für die Modellgenerierung konfigurieren.
Klicken Sie auf Neue Einträge.
Geben Sie Werte für die folgenden Felder ein:
Feld Datentyp Beschreibung Modellschlüssel String Ein eindeutiger Name, den Sie zur Identifizierung der Modellkonfiguration angeben, z. B.
Gemini.Sie verwenden diesen Modellschlüssel, wenn Sie die generative Modellklasse oder die Einbettungsklasse instanziieren, um die Generierungskonfiguration anzugeben, die wirksam werden soll.
Modell-ID String Modell-ID des LLM, z. B.
gemini-1.5-flash-001.Informationen zu Vertex AI-Modellversionen finden Sie unter Modellversionen und Lebenszyklus.
Google Cloud-Schlüsselname String Der Clientschlüssel, den Sie während der Einrichtung der Authentifizierung für die Authentifizierung bei Google Cloud konfiguriert haben. Standort-ID der Google Cloud-Region String Die Standort-ID der Google Cloud -Region, in der die von Ihnen zu verwendenden Vertex AI-Features verfügbar sind.
Sie sollten möglichst die Region verwenden, die Ihrem Standort (oder dem Standort Ihrer Nutzer) am nächsten ist. Weitere Informationen finden Sie unter Vertex AI-Standorte.
Publisher-ID des LLM String Optional. Der Publisher des LLM, z. B. google.MIME-Typ der Antwort String Optional. MIME-Typ der Ausgabeantwort des generierten Kandidatentextes. Unterstützter MIME-Typ: text/plain: (Standardeinstellung) Textausgabe.application/json: JSON-Antwort in den Kandidaten.
Zufallstemperatur String Optional. Steuert die Zufälligkeit von Vorhersagen. Weitere Informationen finden Sie unter Temperatur.
Bereich: [0.0, 1.0]
Top-K-Stichprobenerhebung Float Optional. Der Wert „Top-K“ ändert, wie das Modell Tokens für die Ausgabe auswählt.
Geben Sie einen niedrigeren Wert für weniger zufällige Antworten und einen höheren Wert für zufälligere Antworten an. Weitere Informationen finden Sie unter Top-K.
Bereich: [1, 40]
Top-P-Stichprobenerhebung Float Optional. Der Wert „Top-P“ ändert, wie das Modell Tokens für die Ausgabe auswählt.
Geben Sie einen niedrigeren Wert für weniger zufällige Antworten und einen höheren Wert für zufälligere Antworten an. Weitere Informationen finden Sie unter Top-P.
Bereich: [0.0, 1.0]
Maximale Anzahl an Ausgabetokens pro Nachricht Ganzzahl Optional. Maximale Anzahl an Tokens, die in der Antwort generiert werden können. Ein Token besteht aus etwa vier Zeichen. 100 Tokens entsprechen etwa 60–80 Wörtern.
Geben Sie kürzere Werte für kürzere Antworten und höhere Werte für längere Antworten an.
Positive Strafen Float Optional. Positive Werte nehmen Abzüge bei Tokens vor, die bereits im generierten Text angezeigt wurden, wodurch die Wahrscheinlichkeit vielfältigerer Themen erhöht wird.
Bereich: [-2.0, 2.0]
Strafe für die Häufigkeit Float Optional. Positive Werte nehmen Abzüge bei Tokens vor, die wiederholt im generierten Text angezeigt werden, wodurch die Möglichkeit der Wiederholung desselben Inhalts verringert wird.
Bereich: [-2.0, 2.0]
Wenn Sie keinen Wert für einen optionalen Parameter angeben, verwendet das SDK den Standardwert des Parameters, der für die in
Model IDkonfigurierte Modellversion spezifisch ist.Speichern Sie den neuen Eintrag.
SAP BTP-Edition
Rufen Sie den SAP Fiori-Startbildschirm auf.
Rufen Sie den Bereich auf, der die Fiori-Apps für die SDK-Konfiguration enthält.
Öffnen Sie die App Vertex AI SDK: Parameter für die Modellgenerierung konfigurieren.
Klicken Sie auf Erstellen.
Geben Sie im angezeigten Dialogfeld Erstellen einen Wert für das Feld Modellschlüssel ein und klicken Sie dann auf Weiter.
Geben Sie Werte für die angezeigten Felder ein.
In der folgenden Tabelle werden die Felder und ihre Zuordnung zu den Parametern für die Modellgenerierung beschrieben:
Feld Datentyp Beschreibung Modellschlüssel String Ein eindeutiger Name, den Sie zur Identifizierung der Modellkonfiguration angeben, z. B.
Gemini.Sie verwenden diesen Modellschlüssel, wenn Sie die generative Modellklasse oder die Einbettungsklasse instanziieren, um die Generierungskonfiguration anzugeben, die wirksam werden soll.
Modell-ID String Modell-ID des LLM, z. B.
gemini-1.5-flash-001.Informationen zu Vertex AI-Modellversionen finden Sie unter Modellversionen und Lebenszyklus.
Google Cloud-Schlüsselname String Der Clientschlüssel, den Sie während der Einrichtung der Authentifizierung für die Authentifizierung bei Google Cloud konfiguriert haben. Standort-ID der Google Cloud-Region String Die Standort-ID der Google Cloud -Region, in der die von Ihnen zu verwendenden Vertex AI-Features verfügbar sind.
Sie sollten möglichst die Region verwenden, die Ihrem Standort (oder dem Standort Ihrer Nutzer) am nächsten ist. Weitere Informationen finden Sie unter Vertex AI-Standorte.
Publisher-ID des LLM String Optional. Der Publisher des LLM, z. B. google.MIME-Typ der Antwort String Optional. MIME-Typ der Ausgabeantwort des generierten Kandidatentextes. Unterstützter MIME-Typ: text/plain: (Standardeinstellung) Textausgabe.application/json: JSON-Antwort in den Kandidaten.
Zufallstemperatur String Optional. Steuert die Zufälligkeit von Vorhersagen. Weitere Informationen finden Sie unter Temperatur.
Bereich: [0.0, 1.0]
Top-K-Stichprobenerhebung Float Optional. Der Wert „Top-K“ ändert, wie das Modell Tokens für die Ausgabe auswählt.
Geben Sie einen niedrigeren Wert für weniger zufällige Antworten und einen höheren Wert für zufälligere Antworten an. Weitere Informationen finden Sie unter Top-K.
Bereich: [1, 40]
Top-P-Stichprobenerhebung Float Optional. Der Wert „Top-P“ ändert, wie das Modell Tokens für die Ausgabe auswählt.
Geben Sie einen niedrigeren Wert für weniger zufällige Antworten und einen höheren Wert für zufälligere Antworten an. Weitere Informationen finden Sie unter Top-P.
Bereich: [0.0, 1.0]
Maximale Anzahl an Ausgabetokens pro Nachricht Ganzzahl Optional. Maximale Anzahl an Tokens, die in der Antwort generiert werden können. Ein Token besteht aus etwa vier Zeichen. 100 Tokens entsprechen etwa 60–80 Wörtern.
Geben Sie kürzere Werte für kürzere Antworten und höhere Werte für längere Antworten an.
Positive Strafen Float Optional. Positive Werte nehmen Abzüge bei Tokens vor, die bereits im generierten Text angezeigt wurden, wodurch die Wahrscheinlichkeit vielfältigerer Themen erhöht wird.
Bereich: [-2.0, 2.0]
Strafe für die Häufigkeit Float Optional. Positive Werte nehmen Abzüge bei Tokens vor, die wiederholt im generierten Text angezeigt werden, wodurch die Möglichkeit der Wiederholung desselben Inhalts verringert wird.
Bereich: [-2.0, 2.0]
Wenn Sie keinen Wert für einen optionalen Parameter angeben, verwendet das SDK den Standardwert des Parameters, der für die in
Model IDkonfigurierte Modellversion spezifisch ist.Klicken Sie auf Erstellen, um den Eintrag zu speichern.
Parameter für die Vektorsuche konfigurieren
Für die Definition von Vektorsuchkonfigurationen verwendet das Vertex AI SDK for ABAP die Tabelle /GOOG/SEARCHCONF.
So konfigurieren Sie die Parameter für die Vektorsuche:
Lokale oder beliebige Cloud-Version
Führen Sie in der SAP-GUI den Transaktionscode
/GOOG/SDK_IMGaus.Alternativ können Sie den Transaktionscode
SPROausführen und dann auf SAP-Referenz-IMG klicken.Klicken Sie auf ABAP SDK for Google Cloud > Grundlegende Einstellungen > Vertex AI SDK: Parameter für die Vektorsuche konfigurieren.
Klicken Sie auf Neue Einträge.
Geben Sie Werte für die folgenden Felder ein:
Feld Datentyp Beschreibung Suchschlüssel String Ein eindeutiger Name, den Sie zur Identifizierung der Suchkonfiguration angeben. Google Cloud-Schlüsselname String Der Clientschlüssel, den Sie während der Einrichtung der Authentifizierung für die Authentifizierung bei Google Cloud konfiguriert haben. Standort-ID der Google Cloud-Region String Die Standort-ID der Google Cloud -Region, in der die von Ihnen zu verwendenden Vertex AI-Features verfügbar sind.
Sie sollten möglichst die Region verwenden, die Ihrem Standort (oder dem Standort Ihrer Nutzer) am nächsten ist. Weitere Informationen finden Sie unter Vertex AI-Standorte.
Bereitstellungs-ID des Vektorindexes String Die Bereitstellungs-ID eines Index. Wenn Sie einen Index auf einem Endpunkt bereitstellen, weisen Sie ihm eine eindeutige Bereitstellungs-ID zu. Informationen zur Indexbereitstellung finden Sie unter Vektorindex auf einem Indexendpunkt bereitstellen.
Endpunkt-ID des Vektorindexes String Die ID des Indexendpunkts, auf dem der Index bereitgestellt wird.
Informationen zum Indexendpunkt finden Sie unter Vector-Indexendpunkt erstellen.
Speichern Sie den neuen Eintrag.
SAP BTP-Edition
Rufen Sie den SAP Fiori-Startbildschirm auf.
Rufen Sie den Bereich auf, der die Fiori-Apps für die SDK-Konfiguration enthält.
Öffnen Sie die App Vertex AI SDK: Vektorsuchkonfiguration.
Klicken Sie auf Erstellen.
Geben Sie im angezeigten Dialogfeld Erstellen einen Wert für das Feld Modellschlüssel ein und klicken Sie dann auf Weiter.
Geben Sie Werte für die angezeigten Felder ein.
In der folgenden Tabelle werden die Felder und ihre Zuordnung zu den Parametern der Vektorsuche beschrieben:
Feld Datentyp Beschreibung Suchschlüssel String Ein eindeutiger Name, den Sie zur Identifizierung der Suchkonfiguration angeben. Google Cloud-Schlüsselname String Der Clientschlüssel, den Sie während der Einrichtung der Authentifizierung für die Authentifizierung bei Google Cloud konfiguriert haben. Standort-ID der Google Cloud-Region String Die Standort-ID der Google Cloud -Region, in der die von Ihnen zu verwendenden Vertex AI-Features verfügbar sind.
Sie sollten möglichst die Region verwenden, die Ihrem Standort (oder dem Standort Ihrer Nutzer) am nächsten ist. Weitere Informationen finden Sie unter Vertex AI-Standorte.
Bereitstellungs-ID des Vektorindexes String Die Bereitstellungs-ID eines Index. Wenn Sie einen Index auf einem Endpunkt bereitstellen, weisen Sie ihm eine eindeutige Bereitstellungs-ID zu. Informationen zur Indexbereitstellung finden Sie unter Vektorindex auf einem Indexendpunkt bereitstellen.
Endpunkt-ID des Vektorindexes String Die ID des Indexendpunkts, auf dem der Index bereitgestellt wird.
Informationen zum Indexendpunkt finden Sie unter Vector-Indexendpunkt erstellen.
Klicken Sie auf Erstellen, um den Eintrag zu speichern.
Nächste Schritte
- Sehen Sie sich die integrierten Generative AI-Demos für SAP an.
- Generative AI in Vertex AI für SAP