Includi esempi con pochi esempi

Puoi includere nel prompt degli esempi che mostrano al modello una buona risposta. Il modello tenta di identificare pattern e relazioni dagli esempi e li applica quando genera una risposta. I prompt che contengono esempi sono chiamati few-shot, mentre quelli che non forniscono esempi sono chiamati zero-shot. I prompt few-shot vengono spesso utilizzati per regolare la formattazione, la formulazione, l'ambito o la struttura generale delle risposte del modello. Utilizza esempi specifici e vari per aiutare il modello a restringere il campo e generare risultati più accurati.

L'inclusione di esempi few-shot nei prompt li rende più affidabili ed efficaci. Tuttavia, devi sempre accompagnare gli esempi con pochi esempi con istruzioni chiare. Senza istruzioni chiare, i modelli potrebbero rilevare schemi o relazioni indesiderate dagli esempi, il che può portare a risultati scadenti.

I punti chiave di questa strategia sono i seguenti:

  • La presenza di esempi di prompt e risposta nel prompt aiuta il modello a imparare a rispondere.
  • Utilizza il markup simile a XML per il markup degli esempi.
  • Sperimenta con il numero di prompt da includere. A seconda del modello, un numero troppo ridotto di esempi è inefficace per modificare il comportamento del modello. Troppi esempi possono causare l'overfitting del modello.
  • Utilizza una formattazione coerente negli esempi

Confronto tra prompt zero-shot e prompt few-shot

Il seguente prompt senza esempi chiede al modello di estrarre le specifiche tecniche dal testo e di generare un output in formato JSON:

Extract the technical specifications from the text below in JSON format.

Google Pixel 7, 5G network, 8GB RAM, Tensor G2 processor, 128GB of storage, Lemongrass
  
    {
      "Network": "5G",
      "RAM": "8GB",
      "Processor": "Tensor G2",
      "Storage": "128GB",
      "Color": "Lemongrass"
    }

Supponiamo che il tuo caso d'uso richieda una formattazione specifica, ad esempio nomi di chiavi in minuscolo. Puoi includere nel prompt esempi che mostrano al modello come formattare il JSON. Il seguente prompt con pochi esempi dimostra un formato di output in cui le chiavi JSON sono in minuscolo:

Extract the technical specifications from the text below in a JSON format.

<EXAMPLE>
  INPUT: Google Nest Wifi, network speed up to 1200Mpbs, 2.4GHz and 5GHz frequencies, WP3 protocol

  OUTPUT:
  {
    "product":"Google Nest Wifi",
    "speed":"1200Mpbs",
    "frequencies": ["2.4GHz", "5GHz"],
    "protocol":"WP3"
  }
</EXAMPLE>

  Google Pixel 7, 5G network, 8GB RAM, Tensor G2 processor, 128GB of storage, Lemongrass
  
    {
      "product": "Google Pixel 7",
      "network": "5G",
      "ram": "8GB",
      "processor": "Tensor G2",
      "storage": "128GB",
      "color": "Lemongrass"
    }

Tieni presente che l'esempio utilizza la formattazione simile a XML per separare i componenti del prompt. Per approfondire come formattare in modo ottimale i prompt con pochi esempi utilizzando una formattazione simile a XML, consulta Strutturare i prompt.

Trovare il numero ottimale di esempi

Puoi fare esperimenti sul numero di esempi da fornire nel prompt per ottenere i risultati più desiderati. Modelli come PaLM e Gemini possono spesso rilevare schemi utilizzando alcuni esempi, anche se potrebbe essere necessario sperimentare il numero di esempi che generano i risultati desiderati. Allo stesso tempo, se includi troppi esempi, il modello potrebbe iniziare a overfit la risposta agli esempi.

Passaggi successivi