Includi esempi di few-shot

Puoi includere nel prompt degli esempi che mostrino al modello l'aspetto di una buona risposta. Il modello cerca di identificare pattern e relazioni dagli esempi e li applica quando genera una risposta. I prompt che contengono esempi sono chiamati few-shot, mentre quelli che non forniscono esempi sono chiamati prompt zero-shot. I prompt few-shot vengono spesso utilizzati per regolare la formattazione, la formulazione, la definizione dell'ambito o la definizione di pattern generali delle risposte del modello. Utilizza esempi specifici e diversificati per aiutare il modello a restringere il suo obiettivo e generare risultati più accurati.

L'inclusione di esempi few-shot nei prompt aiuta a renderli più affidabili ed efficaci. Tuttavia, dovresti sempre associare esempi di poche foto a istruzioni chiare. Senza istruzioni chiare, i modelli potrebbero estrarre dagli esempi una relazione o pattern non intenzionali, il che può portare a risultati scarsi.

I punti chiave di questa strategia sono i seguenti:

  • L'inclusione di esempi di risposta nel prompt consente al modello di imparare come rispondere.
  • Usa un markup di tipo XML per il markup degli esempi.
  • Prova a numero di prompt da includere. A seconda del modello, un numero troppo basso di esempi è inefficaci nel modificare il comportamento del modello. Troppi esempi possono causare un overfitting del modello.
  • Utilizza una formattazione coerente negli esempi

Prompt zero-shot e few-shot

Il seguente prompt zero-shot chiede al modello di estrarre le specifiche tecniche dal testo e generarlo in formato JSON:

Extract the technical specifications from the text below in JSON format.

Google Pixel 7, 5G network, 8GB RAM, Tensor G2 processor, 128GB of storage, Lemongrass
  
    {
      "Network": "5G",
      "RAM": "8GB",
      "Processor": "Tensor G2",
      "Storage": "128GB",
      "Color": "Lemongrass"
    }

Supponiamo che il tuo caso d'uso richieda una formattazione specifica, ad esempio nomi di chiavi lowecaser. Puoi includere esempi nel prompt che mostra al modello come formattare il file JSON. Il seguente prompt few-shot mostra un formato di output in cui le chiavi JSON sono minuscole:

Extract the technical specifications from the text below in a JSON format.

<EXAMPLE>
  INPUT: Google Nest Wifi, network speed up to 1200Mpbs, 2.4GHz and 5GHz frequencies, WP3 protocol

  OUTPUT:
  {
    "product":"Google Nest Wifi",
    "speed":"1200Mpbs",
    "frequencies": ["2.4GHz", "5GHz"],
    "protocol":"WP3"
  }
</EXAMPLE>

  Google Pixel 7, 5G network, 8GB RAM, Tensor G2 processor, 128GB of storage, Lemongrass
  
    {
      "product": "Google Pixel 7",
      "network": "5G",
      "ram": "8GB",
      "processor": "Tensor G2",
      "storage": "128GB",
      "color": "Lemongrass"
    }

Tieni presente che l'esempio utilizza una formattazione di tipo XML per separare i componenti del prompt. Per scoprire di più su come formattare in modo ottimale i prompt few-shot utilizzando una formattazione di tipo XML, consulta Struttura dei prompt.

Trovare il numero ottimale di esempi

Puoi sperimentare il numero di esempi da fornire nel prompt per ottenere i risultati più desiderati. Modelli come PaLM e Gemini spesso possono rilevare pattern usando alcuni esempi, anche se potresti dover sperimentare il numero di esempi che porta ai risultati desiderati. Allo stesso tempo, se includi troppi esempi, il modello potrebbe iniziare a overfittingare la risposta agli esempi.

Passaggi successivi