Respons dasar untuk model Gemini

Pratinjau

"Grounding with Google Search", yang merupakan fitur dari Vertex AI, adalah penawaran Pratinjau, yang tunduk pada Persyaratan Penawaran Pra-GA dari Persyaratan Khusus Layanan GCP. Produk dan fitur pra-GA mungkin memiliki dukungan terbatas, dan perubahan pada produk serta fitur pra-GA mungkin tidak kompatibel dengan versi pra-GA lainnya. Untuk mengetahui informasi selengkapnya, lihat deskripsi tahap peluncuran.

Selanjutnya, untuk menggunakan fitur ini, Anda harus memilih ikut serta melalui formulir ini, yang Anda gunakan untuk menyetujui Persyaratan Tambahan untuk Produk Pratinjau AI Generatif, yang mencakup persyaratan yang berlaku untuk Grounding dengan Google Penelusuran.

Permukaan rujukan dengan Google Penelusuran

Gunakan Grounding dengan Google Penelusuran jika Anda ingin menghubungkan model dengan pengetahuan dunia, berbagai kemungkinan topik, atau informasi terbaru di internet.

Anda harus menampilkan titik entri Google Penelusuran saat menggunakan fitur ini. Untuk mempelajari persyaratannya lebih lanjut, lihat titik entri Google Penelusuran.

Untuk mempelajari lebih lanjut landasan model di Vertex AI, lihat Ringkasan ground.

Model yang didukung

Model berikut mendukung landasan:

• Gemini 1.0 Pro

Penting: Untuk menggunakannya, Anda harus mengaktifkan titik entri Google Penelusuran. Lihat selengkapnya di titik entri Google Penelusuran.

Jika Anda menggunakan Grounding dengan Google Penelusuran, sebaiknya gunakan suhu 0.0. Untuk mempelajari setelan konfigurasi ini lebih lanjut, lihat isi permintaan Gemini API dari referensi model.

REST

Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:

• LOCATION: Region untuk memproses permintaan.
• PROJECT_ID: Project ID Anda.
• MODEL_ID: ID model dari model multimodal.
• MODEL: projects/acme/locations/us-central1/publishers/google/models/gemini-pro
• ROLE: Peran dalam percakapan yang terkait dengan konten. Penentuan peran diperlukan bahkan dalam kasus penggunaan satu giliran. Nilai yang dapat diterima mencakup hal berikut: USER: Menentukan konten yang dikirim oleh Anda.
• TOOLS: Resource yang Anda gunakan untuk melakukan ground. Gunakan googleSearchRetrieval untuk landasan dengan Google Penelusuran.
• TEXT: Teks petunjuk yang akan disertakan dalam perintah.

Metode HTTP dan URL:

POST https://LOCATION-prediction-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent

Meminta isi JSON:

{
"contents": [{
  "role": "user",
  "parts": [{
    "text": TEXT
  }]
}],
"tools": [{
  "googleSearchRetrieval": {}
}],
"model": MODEL
}'

Untuk mengirim permintaan Anda, perluas salah satu opsi berikut:

curl (Linux, macOS, atau Cloud Shell)

Catatan: Perintah berikut mengasumsikan bahwa Anda telah login ke CLI gcloud dengan akun pengguna Anda dengan menjalankan gcloud init atau gcloud auth login, atau menggunakan Cloud Shell, yang secara otomatis membuat Anda login ke CLI gcloud. Anda dapat memeriksa akun yang aktif saat ini dengan menjalankan gcloud auth list.

Simpan isi permintaan dalam file bernama request.json, dan jalankan perintah berikut:

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-prediction-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent"

PowerShell (Windows)

Catatan: Perintah berikut mengasumsikan bahwa Anda telah login ke CLI gcloud dengan akun pengguna Anda dengan menjalankan gcloud init atau gcloud auth login. Anda dapat memeriksa akun yang aktif saat ini dengan menjalankan gcloud auth list.

Simpan isi permintaan dalam file bernama request.json, dan jalankan perintah berikut:

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-prediction-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent" | Select-Object -Expand Content

Anda akan melihat respons JSON yang mirip seperti berikut:

{
  "candidates":[
     {
        "content":{
           "role":"model",
           "parts":[
              {
                 "text":"Chicago's forecast: Today, March 1st, the weather is rainy, overcast, and chilly with highs in the low 50s. A jacket for the evenings is recommended, since the evenings will be closer to 30 degrees."
              }
           ]
        },
        "finishReason":"STOP",
        "safetyRatings":[
           "..."
        ],
        "groundingMetadata":{
           "webSearchQueries":[
              "What's the weather in Chicago this weekend and do I need to bring a coat?"
           ]
        }
     }
  ],
  "usageMetadata":{

  }
}

Konsol

Untuk menggunakan Grounding dengan Google Penelusuran bersama Vertex AI Studio, ikuti langkah-langkah berikut:

1. Di konsol Google Cloud, buka halaman Vertex AI Studio.

   Buka Vertex AI Studio

2. Klik tab Multimodal.
3. Klik Open untuk melihat halaman desain prompt tunggal.
4. Di panel samping, klik Lanjutan untuk melihat setelan lanjutan.
5. Klik tombol Aktifkan Grounding.
6. Klik Customize dan setel Google Penelusuran sebagai sumber.
7. Masukkan perintah Anda di kotak teks, lalu klik Submit.

Respons perintah Anda kini didasarkan pada Google Penelusuran.

Python

Untuk mempelajari cara menginstal atau mengupdate Vertex AI SDK untuk Python, lihat Menginstal Vertex AI SDK untuk Python. Untuk mengetahui informasi selengkapnya, lihat dokumentasi referensi Python API.

import vertexai
from vertexai.preview.generative_models import (
    GenerationConfig,
    GenerationResponse,
    GenerativeModel,
    grounding,
    Tool,
)

def generate_text_with_grounding_web(
    project_id: str, location: str
) -> GenerationResponse:
    # Initialize Vertex AI
    vertexai.init(project=project_id, location=location)

    # Load the model
    model = GenerativeModel(model_name="gemini-1.0-pro")

    # Use Google Search for grounding
    tool = Tool.from_google_search_retrieval(grounding.GoogleSearchRetrieval())

    prompt = "When is the next total solar eclipse in US?"
    response = model.generate_content(
        prompt,
        tools=[tool],
        generation_config=GenerationConfig(
            temperature=0.0,
        ),
    )

    print(response)

Pahami respons Anda

Jika perintah model Anda berhasil diarahkan ke Google Penelusuran dari Vertex AI Studio atau dari API, responsnya akan menyertakan metadata dengan link sumber (URL web). Namun, ada beberapa alasan mengapa metadata ini mungkin tidak diberikan, dan respons perintah tidak akan didasarkan. Alasan ini mencakup relevansi sumber yang rendah atau informasi yang tidak lengkap dalam respons model.

Kutipan

Menampilkan kutipan sangat disarankan. Eksperimen membantu pengguna memvalidasi respons dari penerbit itu sendiri dan membuka peluang untuk pembelajaran lebih lanjut.

Kutipan untuk respons dari sumber Google Penelusuran harus ditampilkan secara inline dan gabungan. Lihat gambar berikut sebagai saran tentang cara melakukannya.

Penggunaan opsi mesin telusur alternatif

Penggunaan Grounding dengan Google Penelusuran oleh Pelanggan tidak mencegah Pelanggan menawarkan opsi mesin telusur alternatif, menjadikan opsi penelusuran alternatif sebagai opsi default untuk Aplikasi Pelanggan, atau menampilkan saran penelusuran mereka sendiri atau pihak ketiga atau hasil penelusuran di Aplikasi Pelanggan, dengan ketentuan bahwa layanan penelusuran non-Google tersebut atau hasil terkait tersebut ditampilkan secara terpisah dari Hasil Dasar dan Titik Entri Penelusuran, serta tidak dapat secara wajar dikaitkan dengan, atau disalahartikan oleh Google.

Gabungkan Gemini ke data Anda

Bagian ini menunjukkan cara menerapkan respons teks Gemini 1.0 Pro ke datastore Vertex AI Search menggunakan Vertex AI API.

Model berikut mendukung landasan:

• Gemini 1.0 Pro

Penting: Anda hanya dapat didasarkan pada respons teks

Ada prasyarat yang diperlukan sebelum Anda dapat menerapkan tanah Gemini 1.0 Pro.

1. Aktifkan Vertex AI Search dan aktifkan API.
2. Membuat sumber data dan aplikasi Vertex AI Search.
3. Tautkan datastore ke aplikasi Anda di Vertex AI Search. Sumber data berfungsi sebagai fondasi untuk landasan Gemini 1.0 Pro di Vertex AI.
4. Mengaktifkan edisi Enterprise untuk datastore Anda.

Lihat Pengantar Vertex AI Search untuk mengetahui informasi selengkapnya.

Aktifkan Vertex AI Search

1. Di konsol Google Cloud, buka halaman Penelusuran & Percakapan.

   Penelusuran & Percakapan

2. Baca dan setujui persyaratan layanan, lalu klik Continue and enable the API.

   Penting: Anda harus menyetujui persyaratan penggunaan data solusi penemuan untuk setiap project tempat Anda ingin menggunakan Vertex AI Search.

Vertex AI Search tersedia di lokasi global, atau multi-region eu dan us. Untuk mempelajari lebih lanjut, lihat lokasi Vertex AI Search

Membuat datastore di Vertex AI Search

Untuk membandingkan model dengan data sumber, Anda harus sudah menyiapkan dan menyimpan data ke Vertex AI Search. Untuk melakukannya, Anda perlu membuat penyimpanan data di Vertex AI Search.

Jika memulai dari awal, Anda harus menyiapkan data untuk ditransfer ke Vertex AI Search. Lihat Menyiapkan data untuk diserap untuk memulai. Bergantung pada ukuran data Anda, penyerapan dapat memerlukan waktu beberapa menit hingga beberapa jam. Hanya penyimpanan data tidak terstruktur yang didukung untuk landasan.

Setelah menyiapkan data untuk penyerapan, Anda dapat Membuat penyimpanan data penelusuran. Setelah Anda berhasil membuat datastore, Buat aplikasi penelusuran untuk menautkannya dan Aktifkan edisi Enterprise.

Menurunkan model Gemini 1.0 Pro

Jika Anda tidak mengetahui ID datastore Anda, ikuti langkah-langkah berikut:

1. Di konsol Google Cloud, buka halaman Vertex AI Search dan di menu navigasi, klik Datastore. <a{: class="button button-primary" l10n-attrs-original-order="href,target,class,track-name,track-type" l10n-encrypted-href="BU2UnTd/bvXw0I31NoHStFtigmNHgUGOXn/QVSGplOhB4J1rwNxdLkslXs
2. Klik nama datastore Anda.
3. Di halaman Data untuk datastore Anda, dapatkan ID datastore.

REST

Untuk menguji prompt teks menggunakan Vertex AI API, kirim permintaan POST ke endpoint model penayang.

PROJECT_ID=PROJECT_ID
curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json"  https://us-central1-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/us-central1/publishers/google/models/gemini-1.0-pro:generateContent -d '{
  "contents": [{
    "role": "user",
    "parts": [{
      "text": TEXT
    }]
  }],
  "model": "projects/PROJECT_ID/locations/us-central1/publishers/google/models/gemini-1.0-pro",
  "tools": [{
    "retrieval": {
      "vertexAiSearch": {
        "datastore": projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID
      }
    }
  }]
}

Python

Untuk mempelajari cara menginstal atau mengupdate Vertex AI SDK untuk Python, lihat Menginstal Vertex AI SDK untuk Python. Untuk mengetahui informasi selengkapnya, lihat dokumentasi referensi Python API.

import vertexai
from vertexai.preview.generative_models import (
    GenerationConfig,
    GenerationResponse,
    GenerativeModel,
    grounding,
    Tool,
)

def generate_text_with_grounding_vertex_ai_search(
    project_id: str, location: str, data_store_path: str
) -> GenerationResponse:
    # Initialize Vertex AI
    vertexai.init(project=project_id, location=location)

    # Load the model
    model = GenerativeModel(model_name="gemini-1.0-pro")

    # Use Vertex AI Search data store
    # Format: projects/{project_id}/locations/{location}/collections/default_collection/dataStores/{data_store_id}
    tool = Tool.from_retrieval(
        grounding.Retrieval(grounding.VertexAISearch(datastore=data_store_path))
    )

    prompt = "How do I make an appointment to renew my driver's license?"
    response = model.generate_content(
        prompt,
        tools=[tool],
        generation_config=GenerationConfig(
            temperature=0.0,
        ),
    )

    print(response)

Konsol

Untuk mem-ground output model Anda ke Vertex AI Search menggunakan Vertex AI Studio di Konsol Google Cloud, ikuti langkah-langkah berikut:

1. Di konsol Google Cloud, buka halaman Vertex AI Studio.

   Buka Vertex AI Studio

2. Klik tab Bahasa.
3. Klik Text prompt untuk melihat halaman desain perintah tunggal.
4. Di panel samping, klik Lanjutan untuk melihat setelan lanjutan.
5. Klik tombol Aktifkan Grounding untuk mengaktifkan grounding.
6. Klik Customize dan tetapkan Vertex AI Search sebagai sumber. Jalur tersebut harus mengikuti format ini: projects/project_id/locations/global/collections/default_collection/dataStores/data_store_id.
7. Masukkan perintah Anda di kotak teks, lalu klik Submit.

Respons perintah Anda kini didasarkan pada Vertex AI Search.

Langkah selanjutnya

• Pelajari cara mengirim permintaan perintah chat.
• Pelajari praktik terbaik responsible AI dan filter keamanan Vertex AI.
• Untuk mempelajari cara mendukung model PaLM, lihat Grounding di Vertex AI