Vertex AI menawarkan alat untuk membantu mengelola template perintah dan data perintah. Template perintah dapat diberi versi dan digunakan bersama dengan model generatif di Vertex AI. Setiap perintah dapat disusun dan dibuat versinya di Vertex AI Studio atau Vertex AI SDK.
Vertex AI SDK menyertakan modul vertexai.preview.prompts
sehingga
prompt dapat digunakan dengan model generatif. Modul vertexai.preview.prompts
mendukung kemampuan untuk menentukan, menyimpan, dan mengelola perintah untuk membuat teks dengan Gemini.
Prompt
Class Prompt merepresentasikan perintah yang dapat digunakan untuk membuat teks dengan metode Gemini, yang merangkum data perintah, variabel, konfigurasi pembuatan, dan informasi relevan lainnya.
Untuk membuat objek Prompt
, gunakan konstruktor vertexai.preview.prompts.Prompt()
.
Anda dapat menentukan data perintah, variabel, dan konfigurasi lainnya dalam
objek ini.
Membuat perintah lokal dan membuat konten
Vertex AI SDK untuk Python
Python
project
: . Anda dapat menemukan ID ini di halaman sambutan Google Cloud console.location
: Lihat Lokasi Vertex AI.prompt_name
: Nama tampilan perintah yang dibuat oleh pengguna, jika disimpan di resource online.prompt_data
: PerintahPartsType
, yang dapat berupa template dengan variabel atau perintah tanpa variabel.variables
: Daftar kamus yang berisi nama dan nilai variabel.generation_config
: ObjekGenerationConfig
yang berisi parameter untuk pembuatan.model_name
: Nama resource model Model Garden. Atau, nama resource endpoint model yang disesuaikan dapat diberikan. Jika tidak ada model yang diberikan, model terbaru default akan digunakan.safety_settings
: ObjekSafetySetting
yang berisi setelan keamanan untuk pembuatan.system_instruction
: ObjekPartsType
yang merepresentasikan instruksi sistem.
Setelah pembuatan objek Prompt
, data dan properti perintah yang merepresentasikan berbagai konfigurasi dapat digunakan untuk menghasilkan konten.
Perintah juga mendukung panggilan fungsi. Lihat Pengantar panggilan fungsi untuk mempelajari lebih lanjut.
Menyimpan perintah
Untuk menyimpan perintah ke resource online, yang dapat diakses di
konsolGoogle Cloud , gunakan
metode vertexai.preview.prompts.create_version()
. Metode ini mengambil objek Prompt
sebagai input dan membuat versi perintah baru di toko online.
Objek Prompt
baru yang dikembalikan dikaitkan dengan resource online.
Setiap pembaruan yang dilakukan pada objek Prompt
bersifat lokal hingga create_version()
dipanggil. Contoh kode berikut menunjukkan cara menyimpan perintah:
Vertex AI SDK untuk Python
from vertexai.preview import prompts # Save Prompt to online resource. # Returns a new Prompt object associated with the online resource. prompt1 = prompts.create_version(prompt=prompt)
Memuat perintah tersimpan
Untuk memuat perintah yang telah disimpan ke resource online, gunakan
metode vertexai.preview.prompts.get()
. Metode ini mengambil ID perintah sebagai input dan menampilkan objek Prompt
yang sesuai. Contoh
kode ini menunjukkan cara memuat perintah tersimpan:
Vertex AI SDK untuk Python
from vertexai.preview import prompts
# Get prompt
prompt = prompts.get(prompt_id="123456789")
Mengambil perintah yang dibuat di konsol Google Cloud
Untuk memperbarui perintah tersimpan, muat perintah terlebih dahulu menggunakan
metode get()
,
ubah propertinya sesuai kebutuhan, lalu simpan perintah yang diperbarui menggunakan
metode create_version()
. Tindakan ini akan membuat versi baru perintah dengan informasi yang diperbarui.
Vertex AI SDK untuk Python
from vertexai.preview import prompts
from vertexai.preview.prompts import Prompt
# Get prompt
prompt = prompts.get(prompt_id="123456789")
# Generate content using the assembled prompt (a prompt without variables)
prompt.generate_content(
contents=prompt.assemble_contents()
)
# Update prompt (changes are local until create_version is called)
prompt.prompt_data = "new prompt"
# Save Prompt to online resource. Since the prompt is associated with a prompt resource, it creates a new version under the same prompt_id. Returns a new Prompt object associated with the online resource
prompt1 = prompts.create_version(prompt=prompt)
Daftar perintah
Untuk melihat nama tampilan dan ID perintah dari semua perintah yang disimpan dalam projectGoogle Cloud saat ini, gunakan metode list_prompts()
.
Vertex AI SDK untuk Python
from vertexai.preview import prompts
prompts_metadata = prompts.list()
# Get a prompt from the list
prompt1 = prompts.get(prompt_id=prompts_metadata[0].prompt_id)
Mencantumkan versi perintah
Untuk melihat nama tampilan dan ID versi dari semua versi perintah yang disimpan dalam perintah, gunakan metode list_versions()
.
Vertex AI SDK untuk Python
from vertexai.preview import prompts
prompt_versions_metadata = prompts.list_versions(prompt_id="123456789")
# Get a specific prompt version from the versions metadata list
prompt1 = prompts.get(
prompt_id=prompt_versions_metadata[3].prompt_id,
version_id=prompt_versions_metadata[3].version_id
)
Memulihkan versi perintah
Resource perintah juga berisi histori versi yang menyimpan versi perintah yang disimpan sebelumnya. Anda dapat menggunakan
metode restore_version()
untuk memulihkan versi lama sebagai versi terbaru perintah. Tindakan ini akan menampilkan
PromptVersionMetadata yang dapat digunakan dengan panggilan get()
untuk mengambil versi yang baru dipulihkan.
Vertex AI SDK untuk Python
from vertexai.preview import prompts
# Restore to prompt version id 1 (original)
prompt_version_metadata = prompts.restore_version(prompt_id="123456789", version_id="1")
# Fetch the newly restored latest version of the prompt
prompt1 = prompts.get(prompt_id=prompt_version_metadata.prompt_id)
Menghapus perintah
Untuk menghapus resource online yang terkait dengan ID perintah, gunakan
metode delete()
.
Vertex AI SDK untuk Python
from vertexai.preview import prompts
prompts.delete(prompt_id="123456789")