Vertex AI bietet Tools zur Verwaltung von Prompt-Vorlagen und Prompt-Daten. Promptvorlagen können versioniert und zusammen mit generativen Modellen in Vertex AI verwendet werden. Jeder Prompt kann in Vertex AI Studio oder im Vertex AI SDK zusammengestellt und versioniert werden.
Das Vertex AI SDK enthält das Modul vertexai.preview.prompts
, damit Prompts mit generativen Modellen funktionieren. Mit dem vertexai.preview.prompts
-Modul können Sie Prompts für die Textgenerierung mit Gemini definieren, speichern und verwalten.
Prompt
Die Prompt-Klasse stellt einen Prompt dar, mit dem Text mit einer Gemini-Methode generiert werden kann. Diese Methode umschließt die Prompt-Daten, Variablen, die Generierungskonfiguration und andere relevante Informationen.
Verwenden Sie den Konstruktor vertexai.preview.prompts.Prompt()
, um ein Prompt
-Objekt zu erstellen.
Sie können die Prompt-Daten, Variablen und andere Konfigurationen in diesem Objekt definieren.
Lokalen Prompt erstellen und Inhalte generieren
Vertex AI SDK für Python
Vertex AI SDK für Python
project
: Ihre Projekt-ID. Sie finden die Projekt-IDs auf der Begrüßungsseite der Google Cloud Console.location
: Vertex AI-Standorteprompt_name
: Der Anzeigename des vom Nutzer erstellten Prompts, sofern in einer Onlineressource gespeichert.prompt_data
: EinPartsType
-Prompt, der eine Vorlage mit Variablen oder ein Prompt ohne Variablen sein kann.variables
: Eine Liste von Wörterbüchern mit den Variablennamen und ‑werten.generation_config
: EinGenerationConfig
-Objekt mit Parametern für die Generierung.model_name
: Name der Model Garden-Modellressource. Alternativ kann auch der Name einer Endpunktressource für ein optimiertes Modell angegeben werden. Wenn kein Modell angegeben ist, wird das aktuelle Standardmodell verwendet.safety_settings
: EinSafetySetting
-Objekt mit Sicherheitseinstellungen für die Generierung.system_instruction
: EinPartsType
-Objekt, das die Systemanweisung darstellt.
Nach dem Erstellen eines Prompt
-Objekts können die Prompt-Daten und -Eigenschaften, die verschiedene Konfigurationen darstellen, zum Generieren von Inhalten verwendet werden.
Prompts unterstützen auch Funktionsaufrufe. Weitere Informationen finden Sie unter Einführung in Funktionsaufrufe.
Prompt speichern
Wenn Sie einen Prompt in einer Onlineressource speichern möchten, auf die über die Google Cloud Console zugegriffen werden kann, verwenden Sie die vertexai.preview.prompts.create_version()
-Methode. Diese Methode nimmt ein Prompt
-Objekt als Eingabe an und erstellt eine neue Version des Prompts im Onlineshop.
Es wird ein neues Prompt
-Objekt zurückgegeben, das mit der Onlineressource verknüpft ist.
Alle Änderungen an einem Prompt
-Objekt sind lokal, bis create_version()
aufgerufen wird. Im folgenden Codebeispiel wird gezeigt, wie ein Prompt gespeichert wird:
Vertex AI SDK für Python
from vertexai.preview import prompts
# Save Prompt to online resource.
# Returns a new Prompt object associated with the online resource.
prompt1 = prompts.create_version(prompt=prompt)
Gespeicherten Prompt laden
Verwenden Sie die Methode vertexai.preview.prompts.get()
, um einen Prompt zu laden, der in der Onlineressource gespeichert wurde. Diese Methode nimmt die Prompt-ID als Eingabe und gibt das entsprechende Prompt
-Objekt zurück. In diesem Codebeispiel wird gezeigt, wie ein gespeicherter Prompt geladen wird:
Vertex AI SDK für Python
from vertexai.preview import prompts
# Get prompt
prompt = prompts.get(prompt_id="123456789")
In der Google Cloud Console erstellten Prompt abrufen
Wenn Sie einen gespeicherten Prompt aktualisieren möchten, laden Sie ihn zuerst mit der Methode get()
, ändern Sie die Eigenschaften nach Bedarf und speichern Sie den aktualisierten Prompt dann mit der Methode create_version()
. Dadurch wird eine neue Version des Prompts mit den aktualisierten Informationen erstellt.
Vertex AI SDK für Python
from vertexai.preview import prompts
from vertexai.preview.prompts import Prompt
# Get prompt
prompt = prompts.get(prompt_id="123456789")
# Generate content using the assembled prompt (a prompt without variables)
prompt.generate_content(
contents=prompt.assemble_contents()
)
# Update prompt (changes are local until create_version is called)
prompt.prompt_data = "new prompt"
# Save Prompt to online resource. Since the prompt is associated with a prompt resource, it creates a new version under the same prompt_id. Returns a new Prompt object associated with the online resource
prompt1 = prompts.create_version(prompt=prompt)
Prompts auflisten
Mit der Methode list_prompts()
können Sie die Anzeigenamen und Prompt-IDs aller Prompts aufrufen, die im aktuellen Google Cloud-Projekt gespeichert sind.
Vertex AI SDK für Python
from vertexai.preview import prompts
prompts_metadata = prompts.list()
# Get a prompt from the list
prompt1 = prompts.get(prompt_id=prompts_metadata[0].prompt_id)
Promptversionen auflisten
Wenn Sie die Anzeigenamen und Versions-IDs aller im Prompt gespeicherten Promptversionen sehen möchten, verwenden Sie die list_versions()
-Methode .
Vertex AI SDK für Python
from vertexai.preview import prompts
prompt_versions_metadata = prompts.list_versions(prompt_id="123456789")
# Get a specific prompt version from the versions metadata list
prompt1 = prompts.get(
prompt_id=prompt_versions_metadata[3].prompt_id,
version_id=prompt_versions_metadata[3].version_id
)
Promptversion wiederherstellen
Eine Prompt-Ressource enthält auch einen Versionsverlauf, in dem zuvor gespeicherte Versionen des Prompts gespeichert werden. Mit der Methode restore_version()
können Sie eine ältere Version als neueste Version des Prompts wiederherstellen. Dadurch werden PromptVersionMetadata zurückgegeben, die mit einem get()
-Aufruf verwendet werden können, um die neu wiederhergestellte Version abzurufen.
Vertex AI SDK für Python
from vertexai.preview import prompts
# Restore to prompt version id 1 (original)
prompt_version_metadata = prompts.restore_version(prompt_id="123456789", version_id="1")
# Fetch the newly restored latest version of the prompt
prompt1 = prompts.get(prompt_id=prompt_version_metadata.prompt_id)
Prompt löschen
Wenn Sie die mit einer Prompt-ID verknüpfte Onlineressource löschen möchten, verwenden Sie die Methode delete()
.
Vertex AI SDK für Python
from vertexai.preview import prompts
prompts.delete(prompt_id="123456789")