Verwenden Sie Vertex AI Studio, um Ihre an die Gemini und PaLM 2-Large Language Models (LLM) von Google gesendeten Prompts zu entwerfen, zu testen und anzupassen. Sie können die Gemini API in Vertex AI und den Vertex AI API-Code aufrufen, der zum Generieren der Antworten verwendet wird.
In Vertex AI Studio können Sie Folgendes ausführen:
- Modelle mit bereitgestellten Beispiel-Prompts testen
- Prompts entwerfen und verwalten
- Prompt-Ausgabe nach Modell vergleichen
- Prompts anhand ausgewählter Qualitätsmesswerte bewerten
- Modelle optimieren, um maßgeschneiderte Antworten zu erhalten
- Ausgabe des Modells mit Vertex AI Search oder der Google Suche fundieren
- Rufen Sie den Vertex AI API-Code für die Implementierung Ihrer Arbeit ab
Bevor Sie mit Prompts in Vertex AI Studio beginnen
Wenn Sie Vertex AI Studio mit einem kostenlosen Google Cloud-Testkonto verwenden oder ohne sich in Google Cloud anzumelden, sind einige Features nicht verfügbar, wie in der folgenden Tabelle dargestellt. Wenn Sie Vertex AI Studio testen möchten, akzeptieren Sie in der Google Cloud Console das Fenster mit den Nutzungsbedingungen für Vertex AI Studio.
Ohne Google Cloud-Konto nutzen | Mit einem kostenlosen Google Cloud-Testkonto nutzen | Mit einem vorhandenen Google Cloud-Konto nutzen | |
---|---|---|---|
Anmeldung erforderlich | Nein | Ja | Ja |
Abfragen pro Minute | 2 QPM für alle multimodalen Modelle | Siehe Kontingentlimits | Siehe Kontingentlimits |
Angebotenes Guthaben | 0 $ | Bis zu 300 $ für 90 Tage | 0 $ |
Prompt-Galerie | Nein | Ja | Ja |
Prompt-Designer | Ja | Ja | Ja |
Prompts speichern | Nein | Ja | Ja |
Prompt-Verlauf | Nein | Ja | Ja |
Erweiterte Parameter | Nein | Nein | Ja |
Abstimmung | Nein | Nein | Ja |
API-Nutzung | Nein | Ja | Ja |
Abrechnung erforderlich | Nein | Nein | Ja |
Einfach starten | Zu Vertex AI Studio | Für kostenlosen Testzeitraum registrieren | Vertex AI in Ihrer Konsole testen |
Google Cloud-Konto erstellen
Für diese Kurzanleitung müssen Sie ein Google Cloud-Konto erstellen. Mit diesem Konto erhalten Sie ein Startguthaben von 300 $sowie die kostenlose Nutzung von mehr als 20 Produkten. Diese werden nicht mit dem Guthaben von 300 $verrechnet.
Jetzt kostenlos startenWeitere Informationen zur Einrichtung in Google Cloud nach dem Erstellen Ihres Kontos finden Sie unter Projekt und Entwicklungsumgebung einrichten.
Ein Language Model aus der Prompt-Galerie testen
- Rufen Sie in der Google Cloud Console im Bereich „Vertex AI“ die Seite Prompt-Galerie auf.
Zur Prompt-Galerie - Wählen Sie im Drop-down-Menü Aufgaben die Option Zusammenfassung aus.
Öffnen Sie die Karte Transkript-Zusammenfassung.
Das Modell, die Parameter, Beispiele und der Test-Prompt sind vorausgefüllt.
Klicken Sie im Abschnitt Test auf Senden, um eine Zusammenfassung des Prompts zu generieren.
Die Antwort wird im Abschnitt Ausgabe angezeigt.
Optional: Wenn Sie unterschiedliche Ergebnisse sehen möchten, wählen Sie ein anderes Modell aus der Liste Modell aus oder ändern Sie die Parameter und klicken Sie dann auf Senden.
Optional: Wenn Sie den Vertex AI API-Code aufrufen möchten, mit dem Sie eine Transkriptzusammenfassung generieren können, klicken Sie auf
Code abrufen.
Prompts in Vertex AI Studio entwerfen und testen
Sie können eigene Prompts (Eingaben) für Aufgaben erstellen und testen, die für Ihren geschäftlichen Anwendungsfall relevant sind, und Antworten generieren. Durch das Hinzufügen von Ein- und Ausgaben kann das LLM anhand der Beispiele für die Antworten kontextbezogen lernen.
Sie können einen Prompt erstellen, der eine präzise Anleitung enthält. Außerdem wird das LLM aufgefordert, einen Satz für Sie abzuschließen oder einmalige Fragen zu beantworten.
- Rufen Sie in der Google Cloud Console im Bereich „Vertex AI“ die Seite Vertex AI Studio auf.
Zu Vertex AI Studio Klicken Sie im Abschnitt Mit Gemini generieren auf Freeform öffnen.
Ein Prompt ohne Titel wird geöffnet.
Geben Sie im Feld für den Prompt eine kurze und prägnante Beschreibung der Aufgabe ein, die das Modell ausführen soll, wie
Suggest a name for a flower shop that sells bouquets of dried flowers
.Klicken Sie auf Senden.
Im Antwortfeld wird eine Antwort angezeigt.
Optional: Wenn Sie verschiedene Ergebnisse aufrufen möchten, passen Sie den Prompt, das Modell oder die Parameter an und klicken Sie auf Senden.
Optional: Klicken Sie auf
Code abrufen, um den Vertex AI API-Code aufzurufen, mit dem Sie eine ähnliche Antwort generieren können.
Prompt-Kategorien von Vertex AI Studio
In Vertex AI Studio können Sie Prompts für verschiedene generative KI-Modelle testen und anpassen.
- Freeform: Testen Sie Text- und multimodale Prompts mit verschiedenen Modellen. Weitere Informationen zu den Modellen finden Sie unter Gemini-Modelle.
- Chat: Testen Sie Prompts mit mehreren Antworten mit verschiedenen Sprachmodellen. Weitere Informationen zu den Modellen finden Sie unter Gemini-Modelle.
- Übersetzung: Führen Sie eine Übersetzung durch.
- Vision: Testen Sie die Bildmodellgenerierung mit Imagen in Vertex AI.
- Sprache: Führen Sie Sprachausgabe- und Spracherkennung-Konvertierungen durch. Dazu wird das Chirp-Modell verwendet. Weitere Informationen zu Chirp finden Sie unter Chirp: Universal-Sprachmodell.
Gemini-Prompt-Galerie in Vertex AI Studio ansehen
Prompt-Beispiele sind in den Abschnitten Freeform und Chat von Vertex AI Studio verfügbar und enthalten eine Vielzahl von Beispiel-Prompts, die zur Veranschaulichung von Modellfunktionen entwickelt wurden. Die Beispiel-Prompts werden nach Aufgabentyp kategorisiert, z. B. Zusammenfassung, Klassifizierung und Extraktion. Jeder Prompt ist mit einem angegebenen Modell und Parameterwerten vorkonfiguriert. Sie können also einfach den Beispiel-Prompt öffnen und auf Senden klicken, damit das Modell eine Antwort generiert.
Gemini-Prompts anpassen und optimieren
„Prompt-Design“ ist der Prozess prompts zu erstellen, die die beabsichtigte Antwort aus einem Sprachmodell auslösen. Durch sorgfältiges Erstellen der Prompts können Sie das Modell dazu bewegen, ein gutes Ergebnis für Ihren Anwendungsfall zu erzielen. Das Prompt-Design kann eine effiziente Möglichkeit sein, um mit der Modellausgabe zu experimentieren.
Mit Vertex AI Studio kann Ihr Team Prompts erstellen, speichern und gemeinsam optimieren. Wenn Sie einen neuen Prompt entwerfen, können Sie den Prompt-Text eingeben, das ideale Modell auswählen, Parameter anpassen und es auf sofortiges Feedback testen. Wenn ein Prompt fertig ist, können Sie ihn in Vertex AI Studio in Ihrem freigegebenen Projekt speichern.
Informationen zum Einstieg in das Prompt-Design finden Sie unter Einführung in Prompts.
Gemini-Modellausgabe mit verschiedenen Prompts vergleichen
In Vertex AI Studio können Sie Prompt-Ergebnisse vergleichen, um herauszufinden, welche Kombination aus Modell und Einstellungen für Ihren Anwendungsfall am besten geeignet ist.
Rufen Sie auf dem Tab Freeform Ihre Prompts auf und wählen Sie neben den Prompts, die Sie vergleichen möchten, die Option Vergleichen aus. Sie können bis zu drei Prompts nebeneinander vergleichen.
Gemini-Prompts über die Seite „Prompt-Verwaltung“ verwalten und organisieren
Wenn Sie viele Prompts haben, ist es wichtig, dass Sie sie an einem zentralen Ort verwalten können. Auf der Seite Prompt-Verwaltung können Sie alle Prompts nach Typ aufrufen. Sie können Prompts versionieren, vorherige Versionen wiederherstellen, Prompts löschen, exportieren und die Benennung von Prompts verwalten. Sie können den Prompts zur Aufzeichnung und zur zentralen Zusammenarbeit mit Ihrem Prompt-Team auch Notizen hinzufügen.
KI-gestützte Tools zum Schreiben von Prompts verwenden
Vertex AI Studio enthält einen KI-Assistenten, mit dem Sie Prompts optimieren und generieren können. So lässt sich der Prozess zum Erstellen von Prompts beschleunigen. Weitere Informationen finden Sie unter KI-gestützte Tools zum Erstellen von Prompts verwenden.
Prompts mit verifizierbaren Daten in Vertex AI Studio fundieren
Bei der generativen KI ist Fundierung die Fähigkeit, die Modellausgabe mit überprüfbaren Informationsquellen zu verbinden. Auf den Seiten Freeform und Chat in Vertex AI Studio können Sie die Modellausgabe mit Vertex AI Search oder der Google Suche fundieren. Weitere Informationen zur Fundierung finden Sie unter Fundierungsübersicht. Weitere Informationen zur Fundierung der Modellausgabe mit der Google Suche finden Sie unter Fundierung mit der Google Suche.
Leistungsstarke generative KI-Modelle in Model Garden entdecken
Model Garden ist eine Plattform, mit der Sie Vertex AI ermitteln, testen, anpassen und bereitstellen sowie OSS-Modelle und -Assets auswählen können. Informationen zu den in Vertex AI verfügbaren generativen KI-Modellen und APIs finden Sie in der Model Console in der Google Cloud Console.
Weitere Informationen zu Model Garden, einschließlich der verfügbaren Modelle und Funktionen, finden Sie unter KI-Modelle in Model Garden entdecken.
Gemini-Modell für eine bessere Leistung optimieren
Das Aufforderungsdesign eignet sich zwar hervorragend für schnelle Experimente, aber wenn Trainingsdaten verfügbar sind, kann durch Feinabstimmung des Modells selbst eine höhere Qualität erreicht werden. Durch die Abstimmung eines Modells können Sie die Antwort des Modells anhand von Beispielen für die Aufgabe anpassen, die das Modell ausführen soll.
Informationen zum Optimieren eines Foundation Models finden Sie unter Foundations Models optimieren.
Verwenden Sie Vertex AI Studio, um Ihre an die Gemini und PaLM 2-Large Language Models (LLM) von Google gesendeten Prompts zu entwerfen, zu testen und anzupassen. Nachdem ein LLM Ihren Prompt verarbeitet hat, sendet es Ihnen seine Antwort. Weitere Informationen zu Vertex AI Studio finden Sie unter Mit Modellen in Vertex AI Studio experimentieren.
Die nächsten Schritte mit Vertex AI Studio
- Weitere Informationen zum Entwerfen von Text-Prompts und Textchat-Prompts.
- Texteinbettungen.
- Versuchen Sie, ein Sprach-Foundation Model zu abzustimmen.
- Best Practices für verantwortungsbewusste KI und Sicherheitsfilter von Vertex AI.
- Antworten aus einem Modell streamen