Menyertakan contoh few-shot

Anda dapat menyertakan contoh dalam perintah yang menunjukkan tampilan respons yang baik pada model. Model mencoba mengidentifikasi pola dan hubungan dari contoh-contoh tersebut dan menerapkannya saat membuat respons. Perintah yang berisi contoh disebut perintah few-shot, sedangkan perintah yang tidak memberikan contoh disebut perintah zero-shot. Perintah few-shot sering digunakan untuk mengatur pemformatan output, frasa, cakupan, atau pola umum respons model. Gunakan contoh yang spesifik dan beragam untuk membantu model mempersempit fokusnya dan menghasilkan hasil yang lebih akurat.

Menyertakan contoh few-shot dalam perintah Anda akan membantu membuatnya lebih andal dan efektif. Namun, Anda harus selalu menyertakan contoh few-shot dengan petunjuk yang jelas. Tanpa petunjuk yang jelas, model mungkin mengambil satu pola atau hubungan yang tidak diinginkan dari contoh, yang dapat menyebabkan hasil yang buruk.

Poin-poin penting dari strategi ini adalah sebagai berikut:

  • Menyertakan contoh respons perintah dalam perintah membantu model mempelajari cara merespons.
  • Gunakan markup seperti XML untuk membuat markup contoh.
  • Lakukan eksperimen dengan sejumlah prompt yang akan disertakan. Bergantung pada modelnya, terlalu sedikit contoh tidak efektif dalam mengubah perilaku model. Terlalu banyak contoh dapat menyebabkan model kelebihan beban.
  • Menggunakan pemformatan yang konsisten di seluruh contoh

Perintah zero-shot versus few-shot

Perintah zero-shot berikut meminta model untuk mengekstrak spesifikasi teknis dari teks dan menampilkannya dalam format JSON:

Extract the technical specifications from the text below in JSON format.

Google Pixel 7, 5G network, 8GB RAM, Tensor G2 processor, 128GB of storage, Lemongrass
  
    {
      "Network": "5G",
      "RAM": "8GB",
      "Processor": "Tensor G2",
      "Storage": "128GB",
      "Color": "Lemongrass"
    }

Misalnya, kasus penggunaan Anda memerlukan pemformatan tertentu, seperti nama kunci yang diawali dengan huruf kecil. Anda dapat menyertakan contoh dalam perintah yang menunjukkan model cara memformat JSON. Perintah beberapa tembakan berikut menunjukkan format output dengan kunci JSON dalam huruf kecil:

Extract the technical specifications from the text below in a JSON format.

<EXAMPLE>
  INPUT: Google Nest Wifi, network speed up to 1200Mpbs, 2.4GHz and 5GHz frequencies, WP3 protocol

  OUTPUT:
  {
    "product":"Google Nest Wifi",
    "speed":"1200Mpbs",
    "frequencies": ["2.4GHz", "5GHz"],
    "protocol":"WP3"
  }
</EXAMPLE>

  Google Pixel 7, 5G network, 8GB RAM, Tensor G2 processor, 128GB of storage, Lemongrass
  
    {
      "product": "Google Pixel 7",
      "network": "5G",
      "ram": "8GB",
      "processor": "Tensor G2",
      "storage": "128GB",
      "color": "Lemongrass"
    }

Perhatikan bahwa contoh menggunakan format seperti XML untuk memisahkan komponen perintah. Untuk mempelajari lebih lanjut cara memformat perintah few-shot secara optimal menggunakan pemformatan seperti XML, lihat Membuat struktur perintah.

Temukan jumlah contoh yang optimal

Anda dapat bereksperimen dengan jumlah contoh yang akan diberikan dalam dialog untuk mendapatkan hasil yang paling diinginkan. Model seperti PaLM dan Gemini sering kali dapat memahami pola menggunakan beberapa contoh, meskipun Anda mungkin perlu bereksperimen dengan jumlah contoh yang memberikan hasil yang diinginkan. Pada saat yang sama, jika Anda menyertakan terlalu banyak contoh, model mungkin akan mulai melebihi respons terhadap contoh.

Langkah selanjutnya