Includi esempi di few-shot

Puoi includere nel prompt degli esempi che mostrano al modello una buona risposta. Il modello tenta di identificare pattern e relazioni dagli esempi e li applica quando genera una risposta. I prompt che contengono esempi sono chiamati few-shot, mentre quelli che non forniscono esempi sono chiamati zero-shot. I prompt few-shot vengono spesso utilizzati per regolare la formattazione, la formulazione, l'ambito o la struttura generale delle risposte del modello. Utilizza esempi specifici e diversificati per aiutare il modello a restringere il suo obiettivo e generare più la precisione dei risultati.

L'inclusione di esempi con pochi esempi nei prompt li rende più affidabili ed efficaci. Tuttavia, dovresti sempre associare esempi di poche foto a istruzioni chiare. Senza chiaro istruzioni, i modelli potrebbero ricavare una relazione o pattern non intenzionali dagli esempi, può portare a risultati scadenti.

I punti chiave di questa strategia sono i seguenti:

  • L'inclusione di esempi di risposta nel prompt aiuta il modello a imparare come rispondere.
  • Utilizza il markup simile a XML per il markup degli esempi.
  • Prova a numero di prompt da includere. A seconda del modello, un numero troppo ridotto di esempi è inefficace per modificare il comportamento del modello. Troppi esempi possono causare un overfitting del modello.
  • Utilizza una formattazione coerente negli esempi

Prompt zero-shot e few-shot

Il seguente prompt senza esempi chiede al modello di estrarre le specifiche tecniche dal testo e di generare un output in formato JSON:

Extract the technical specifications from the text below in JSON format.

Google Pixel 7, 5G network, 8GB RAM, Tensor G2 processor, 128GB of storage, Lemongrass
  
    {
      "Network": "5G",
      "RAM": "8GB",
      "Processor": "Tensor G2",
      "Storage": "128GB",
      "Color": "Lemongrass"
    }

Supponiamo che il tuo caso d'uso richieda una formattazione specifica, ad esempio nomi di chiavi lowecaser. Puoi includere nel prompt esempi che mostrano al modello come formattare il JSON. Il seguente prompt con pochi esempi dimostra un formato di output in cui le chiavi JSON sono in minuscolo:

Extract the technical specifications from the text below in a JSON format.

<EXAMPLE>
  INPUT: Google Nest Wifi, network speed up to 1200Mpbs, 2.4GHz and 5GHz frequencies, WP3 protocol

  OUTPUT:
  {
    "product":"Google Nest Wifi",
    "speed":"1200Mpbs",
    "frequencies": ["2.4GHz", "5GHz"],
    "protocol":"WP3"
  }
</EXAMPLE>

  Google Pixel 7, 5G network, 8GB RAM, Tensor G2 processor, 128GB of storage, Lemongrass
  
    {
      "product": "Google Pixel 7",
      "network": "5G",
      "ram": "8GB",
      "processor": "Tensor G2",
      "storage": "128GB",
      "color": "Lemongrass"
    }

Tieni presente che l'esempio utilizza la formattazione XML per separare i componenti del prompt. Per approfondire come formattare in modo ottimale i prompt con pochi esempi utilizzando una formattazione simile a XML, consulta Strutturare i prompt.

Trovare il numero ottimale di esempi

Puoi sperimentare il numero di esempi da fornire nel prompt per ottenere che consentono di analizzare i dati e visualizzare i risultati. Modelli come PaLM e Gemini possono spesso rilevare schemi utilizzando alcuni esempi, anche se potrebbe essere necessario sperimentare il numero di esempi che generano i risultati desiderati. Allo stesso tempo, se includi troppi esempi, il modello potrebbe iniziare overfitting la risposta agli esempi.

Passaggi successivi