Aufforderungen verwalten

Vertex AI bietet Tools zur Verwaltung von Prompt-Vorlagen und Prompt-Daten. Promptvorlagen können versioniert und zusammen mit generativen Modellen in Vertex AI verwendet werden. Jeder Prompt kann in Vertex AI Studio oder im Vertex AI SDK zusammengestellt und versioniert werden.

Das Vertex AI SDK enthält das Modul vertexai.preview.prompts, damit Prompts mit generativen Modellen funktionieren. Das Modul vertexai.preview.prompts unterstützt die Möglichkeit, Prompts zum Generieren von Text mit Gemini zu definieren, zu speichern und zu verwalten.

Prompt

Die Prompt-Klasse stellt einen Prompt dar, der zum Generieren von Text mit einer Gemini-Methode verwendet werden kann. Sie kapselt die Prompt-Daten, Variablen, die Generierungskonfiguration und andere relevante Informationen.

Verwenden Sie zum Erstellen eines Prompt-Objekts den vertexai.preview.prompts.Prompt()-Konstruktor. In diesem Objekt können Sie die Prompt-Daten, Variablen und andere Konfigurationen definieren.

Lokalen Prompt erstellen und Inhalte generieren

Vertex AI SDK für Python

Python

import vertexai
from vertexai.preview import prompts
from vertexai.preview.prompts import Prompt

# from vertexai.generative_models import GenerationConfig, SafetySetting # Optional

# Initialize vertexai
vertexai.init(project=PROJECT_ID, location="us-central1")

# Create local Prompt
local_prompt = Prompt(
    prompt_name="movie-critic",
    prompt_data="Compare the movies {movie1} and {movie2}.",
    variables=[
        {"movie1": "The Lion King", "movie2": "Frozen"},
        {"movie1": "Inception", "movie2": "Interstellar"},
    ],
    model_name="gemini-2.0-flash-001",
    system_instruction="You are a movie critic. Answer in a short sentence.",
    # generation_config=GenerationConfig, # Optional,
    # safety_settings=SafetySetting, # Optional,
)

# Generate content using the assembled prompt for each variable set.
for i in range(len(local_prompt.variables)):
    response = local_prompt.generate_content(
        contents=local_prompt.assemble_contents(**local_prompt.variables[i])
    )
    print(response)

# Save a version
prompt1 = prompts.create_version(prompt=local_prompt)

print(prompt1)

# Example response
# Assembled prompt replacing: 1 instances of variable movie1, 1 instances of variable movie2
# Assembled prompt replacing: 1 instances of variable movie1, 1 instances of variable movie2
# Created prompt resource with id 12345678910.....
  • project: . Sie finden diese IDs auf der Begrüßungsseite der Google Cloud Console.
  • location: Weitere Informationen finden Sie unter Vertex AI-Standorte.
  • prompt_name: Der Anzeigename des vom Nutzer erstellten Prompts, sofern er in einer Online-Ressource gespeichert ist.
  • prompt_data: Ein PartsType-Prompt, der eine Vorlage mit Variablen oder ein Prompt ohne Variablen sein kann.
  • variables: Eine Liste von Wörterbüchern, die die Variablennamen und ‑werte enthalten.
  • generation_config: Ein GenerationConfig-Objekt mit Parametern für die Generierung.
  • model_name: Name der Model Garden-Modellressource. Alternativ kann ein Ressourcennamen für den Endpunkt eines feinabgestimmten Modells angegeben werden. Wenn kein Modell angegeben ist, wird das aktuelle Standardmodell verwendet.
  • safety_settings: Ein SafetySetting-Objekt mit Sicherheitseinstellungen für die Generierung.
  • system_instruction: Ein PartsType-Objekt, das die Systemanweisung darstellt.

Nachdem ein Prompt-Objekt erstellt wurde, können die Prompt-Daten und ‑Attribute, die verschiedene Konfigurationen darstellen, verwendet werden, um Inhalte zu generieren.

Prompts unterstützen auch Funktionsaufrufe. Weitere Informationen finden Sie unter Funktionsaufrufe.

Prompt speichern

Wenn Sie einen Prompt in einer Online-Ressource speichern möchten, auf die in derGoogle Cloud -Konsole zugegriffen werden kann, verwenden Sie die Methode vertexai.preview.prompts.create_version(). Diese Methode nimmt ein Prompt-Objekt als Eingabe an und erstellt eine neue Version des Prompts im Onlineshop. Es wird ein neues Prompt-Objekt zurückgegeben, das der Online-Ressource zugeordnet ist. Alle Änderungen an einem Prompt-Objekt sind lokal, bis create_version() aufgerufen wird. Im folgenden Codebeispiel wird gezeigt, wie Sie einen Prompt speichern:

Vertex AI SDK für Python 

from vertexai.preview import prompts

# Save Prompt to online resource.
# Returns a new Prompt object associated with the online resource.
prompt1 = prompts.create_version(prompt=prompt)

Gespeicherten Prompt laden

Verwenden Sie die Methode vertexai.preview.prompts.get(), um einen Prompt zu laden, der in der Online-Ressource gespeichert wurde. Diese Methode verwendet die Prompt-ID als Eingabe und gibt das entsprechende Prompt-Objekt zurück. In diesem Codebeispiel wird gezeigt, wie ein gespeicherter Prompt geladen wird:

Vertex AI SDK für Python 

from vertexai.preview import prompts

# Get prompt
prompt = prompts.get(prompt_id="123456789")

In der Google Cloud -Console erstellte Prompts abrufen

Wenn Sie einen gespeicherten Prompt aktualisieren möchten, laden Sie ihn zuerst mit der Methode get(), ändern Sie die Eigenschaften nach Bedarf und speichern Sie den aktualisierten Prompt dann mit der Methode create_version(). Dadurch wird eine neue Version des Prompts mit den aktualisierten Informationen erstellt.

Vertex AI SDK für Python 

from vertexai.preview import prompts
from vertexai.preview.prompts import Prompt

# Get prompt
prompt = prompts.get(prompt_id="123456789")

# Generate content using the assembled prompt (a prompt without variables)
prompt.generate_content(
  contents=prompt.assemble_contents()
)

# Update prompt (changes are local until create_version is called)
prompt.prompt_data = "new prompt"

# Save Prompt to online resource. Since the prompt is associated with a prompt resource, it creates a new version under the same prompt_id. Returns a new Prompt object associated with the online resource
prompt1 = prompts.create_version(prompt=prompt)

Prompts auflisten

Wenn Sie die Anzeigenamen und Prompt-IDs aller Prompts sehen möchten, die im aktuellenGoogle Cloud -Projekt gespeichert sind, verwenden Sie die list_prompts()-Methode.

Vertex AI SDK für Python 

from vertexai.preview import prompts

prompts_metadata = prompts.list()

# Get a prompt from the list
prompt1 = prompts.get(prompt_id=prompts_metadata[0].prompt_id)

Prompt-Versionen auflisten

Wenn Sie die Anzeigenamen und Versions-IDs aller in einem Prompt gespeicherten Prompt-Versionen aufrufen möchten, verwenden Sie die Methode list_versions() .

Vertex AI SDK für Python 

from vertexai.preview import prompts

prompt_versions_metadata = prompts.list_versions(prompt_id="123456789")

# Get a specific prompt version from the versions metadata list
prompt1 = prompts.get(
    prompt_id=prompt_versions_metadata[3].prompt_id,
    version_id=prompt_versions_metadata[3].version_id
)

Prompt-Version wiederherstellen

Eine Prompt-Ressource enthält auch einen Versionsverlauf, in dem zuvor gespeicherte Versionen des Prompts gespeichert werden. Mit der restore_version()-Methode können Sie eine ältere Version als die neueste Version des Prompts wiederherstellen. Dadurch werden PromptVersionMetadata zurückgegeben, die mit einem get()-Aufruf verwendet werden können, um die neu wiederhergestellte Version abzurufen.

Vertex AI SDK für Python 

from vertexai.preview import prompts

# Restore to prompt version id 1 (original)
prompt_version_metadata = prompts.restore_version(prompt_id="123456789", version_id="1")

# Fetch the newly restored latest version of the prompt
prompt1 = prompts.get(prompt_id=prompt_version_metadata.prompt_id)

Prompt löschen

Wenn Sie die mit einer Prompt-ID verknüpfte Onlineressource löschen möchten, verwenden Sie die delete()-Methode.

Vertex AI SDK für Python 

from vertexai.preview import prompts

prompts.delete(prompt_id="123456789")