Incluir exemplos de few-shot

É possível incluir exemplos no comando que mostram ao modelo como seria uma boa resposta. O modelo tenta identificar padrões e relações entre os exemplos e os aplica ao gerar uma resposta. As solicitações que contêm exemplos são chamadas de solicitações curtas, enquanto as que não fornecem exemplos são chamadas de solicitações de zero disparo. Muitas vezes, as solicitações de imagem são usadas para regular a formatação de saída, a frase, o escopo ou o padrão geral das respostas do modelo. Use exemplos específicos e variados para ajudar o modelo a restringir o foco e gerar resultados mais precisos.

Incluir exemplos few-shot nos comandos ajuda a torná-los mais confiáveis e eficazes. No entanto, você deve sempre acompanhar exemplos de few-shot com instruções claras. Sem instruções claras, os modelos podem identificar padrões ou relações não intencionais entre os exemplos, o que pode levar a resultados ruins.

Os pontos principais dessa estratégia são:

  • Incluir exemplos de resposta no comando ajuda o modelo a aprender como responder.
  • Use uma marcação do tipo XML para marcar os exemplos.
  • Faça experiências com o número de comandos para incluir. Dependendo do modelo, poucos exemplos são ineficazes na alteração do comportamento do modelo. Muitos exemplos podem fazer com que o modelo apresente overfitting.
  • Usar formatação consistente em todos os exemplos

Comandos zero-shot e few-shot

O comando zero-shot a seguir solicita que o modelo extraia as especificações técnicas do texto e as envie no formato JSON:

Extract the technical specifications from the text below in JSON format.

Google Pixel 7, 5G network, 8GB RAM, Tensor G2 processor, 128GB of storage, Lemongrass
  
    {
      "Network": "5G",
      "RAM": "8GB",
      "Processor": "Tensor G2",
      "Storage": "128GB",
      "Color": "Lemongrass"
    }

Suponha que seu caso de uso exija formatação específica, como nomes de chaves com letras minúsculas. Inclua exemplos no comando que mostrem ao modelo como formatar o JSON. O comando few-shot a seguir demonstra um formato de saída em que as chaves JSON são minúsculas:

Extract the technical specifications from the text below in a JSON format.

<EXAMPLE>
  INPUT: Google Nest Wifi, network speed up to 1200Mpbs, 2.4GHz and 5GHz frequencies, WP3 protocol

  OUTPUT:
  {
    "product":"Google Nest Wifi",
    "speed":"1200Mpbs",
    "frequencies": ["2.4GHz", "5GHz"],
    "protocol":"WP3"
  }
</EXAMPLE>

  Google Pixel 7, 5G network, 8GB RAM, Tensor G2 processor, 128GB of storage, Lemongrass
  
    {
      "product": "Google Pixel 7",
      "network": "5G",
      "ram": "8GB",
      "processor": "Tensor G2",
      "storage": "128GB",
      "color": "Lemongrass"
    }

O exemplo usa formatação semelhante a XML para separar os componentes do comando. Para saber mais sobre a melhor forma de formatar comandos few-shot usando uma formatação semelhante a XML, consulte Estruturar comandos.

Encontre o número ideal de exemplos

Teste o número de exemplos a serem fornecidos no comando para ter os resultados mais desejados. Modelos como o PaLM e Gemini geralmente podem identificar padrões usando alguns exemplos. No entanto, talvez seja necessário testar quantos exemplos levam aos resultados desejados. Ao mesmo tempo, se você incluir muitos exemplos, o modelo poderá começar a sobrepor a resposta aos exemplos.

A seguir